Онтологии точно в срок: данные и дешёвый интеллект

Что в ролике
Попытка собрать все данные компании в одну универсальную онтологию обычно проваливается не из-за нежелания сотрудников переходить на новую схему, а потому что единой схемы не существует: у источника, хранилища, задачи и модели всегда разные схемы. Автор предлагает делать онтологию точно в срок — собирать нужную схему в момент, когда уже известно решение, а не заранее. На примере обработки данных о пожертвованиях в избирательной кампании Огайо он рассказывает, как пайплайн по объединению записей сначала оценивался в $10 000, а после подключения новой модели-рабочего Jev весь штат обошёлся в $7,95 при бюджете $800. В пайплайне разделяются три роли моделей: проектирование, выполнение внутри пайплайна и самооптимизация, причём для первых нужны медленные думающие модели, а внутри — дешёвые и быстрые. Чтобы поймать ошибки от собственных убеждений моделей, результаты перепроверяли пересечением приоров разных моделей: на 200 отложенных семьях Jev и Luna совпали в 194 случаях, и все совпавшие ответы были верными, а ошибки сидели в шести спорных. Самооптимизацию агент вёл 10 дней, прогнал более 4 000 проверочных прогонов и около 90 000 обращений к Jev, перебрав более десятка архитектур и потратив около 6 млрд токенов. Для повторения этого автор выделяет четыре недостающих условия: стабильная поверхность развёртывания, ограничение экспериментов по деньгам и времени, накопленная методология и поверхность для безопасных ошибок, а весь процесс укладывается в шесть этапов — от спецификации до зрелого продакшн-пайплайна.
Практика
- Что получишь
- Поймёте, почему единая схема данных не работает, и увидите рабочий способ собирать схему под задачу с помощью дешёвых моделей и агентов, включая конкретные цифры экономии.
- Первый шаг
- Скачать открытый харнесс Hank, который автор показывает в докладе, и прогнать его на небольшом фрагменте своих данных.
- Цифры
- —$7,95 — итоговая стоимость обработки всех 23 317 дел по Огайо при заранее заданном бюджете $800
- —$10 000 — во столько оценивался тот же пайплайн до подключения модели Jev
- —4 000 — столько проверочных прогонов выполнил агент за 10 дней самооптимизации
- —90 000 — столько обращений к модели Jev сделали модели внутри прогонов
- Честно
- Докладчик — основатель Southbridge AI, и в выступлении он продвигает свой открытый харнесс Hank и библиотеку агентных паттернов, а часть материалов (ссылка на skill, скриншоты иерархии и промпты) видна только на экране. Промпты и данные для примера обещают выложить, но в транскрипте конкретный адрес не назван. В расшифровке название новой модели встречается и как Jev, и как Jeff, поэтому в пересказе оставлен вариант Jev.
Если слова незнакомы — 5 терминов
- онтологияформальная схема понятий и связей для данных
- пайплайнпоследовательность шагов обработки данных от исходников до результата
- приорисходное представление модели о данных, с которым она приходит к задаче
- токенминимальная единица текста, которую модель обрабатывает и тарифицирует
- агентпрограмма, которая сама выполняет шаги и может запускать инструменты
Связки из этого ролика
3 шт.- Hankwave + Jev
- Jev + Luna
- Astra + Opus
Компоненты
7 шт.Формат: разбор · для продвинутых · уверенность разметки 0.85 · источник