Дешёвый роутер Jev выбирает AI-агента

Что в ролике
Если вы гоняете дорогие модели на простых задачах, TanStack AI предлагает поставить перед ними дешёвого «решателя»: он выбирает, какой агент возьмёт запрос, и экономит токены. Функция называется evaluate/decide, в неё передаются адаптер, состояние и набор вопросов, а модель возвращает выбор из заданных вариантов. В документации показан пример тикета «charged twice for the same invoice», где decide распределяет обращение между billing, tech и sales, а заодно оценивает срочность и нужно ли оформлять возврат. Автор подчёркивает, что роутер должен быть дешёвым и быстрым, поэтому Jev подходит лучше, чем тяжёлые модели вроде Astra low, которую он для такого не взял бы. В своей демке он собрал трёх субагентов через Vercel AI Gateway: researcher, SEO и writer, и Jev решает, кого вызывать. На задачу «What are three facts about durable streams?» он отправил researcher с уверенностью 61%, на короткий пост — writer, а на параллельную задачу «research and SEO» выбрал обоих: SEO 94% и researcher 87%. Финальный шаг «write an article with that info» снова активировал writer, потому что задача соответствует его специализации.
Практика
- Что получишь
- Поймёте, как поставить дешёвую модель-роутер перед субагентами и за счёт этого тратить меньше токенов, направляя задачу сразу нужному специалисту.
- Первый шаг
- Открыть документацию TanStack AI по evaluate и попробовать собрать пример с decide на typesafe-адаптере.
- Цифры
- —61% — уверенность Jev, что задачу про durable streams должен взять researcher
- —94% и 87% — уверенность в выборе SEO и researcher при параллельном запуске
- —3 субагента — researcher, SEO и writer в демке автора
- Честно
- Это обзор функции по документации и авторской демке, готового кода в видео нет, настройки видны только на экране. Автор продвигает своё комьюнити Mighty Horde и предлагает подписаться; ссылки на документацию лежат в описании. Повторить пример можно по документации, но свою сборку с субагентами придётся делать самому.
Если слова незнакомы — 4 терминов
- токеныединицы текста, за которые платят при обращении к модели
- субагентыотдельные специализированные агенты внутри одной системы
- роутермодель, которая направляет запрос нужному агенту
- адаптерпрослойка для подключения модели или провайдера к библиотеке
Понадобится экран
Часть информации есть только на экране (код в терминале). Открыть на YouTube с 1:16.
Связки из этого ролика
2 шт.- Tense AI + Jev
- Tense AI + Vercel AI Gateway
Компоненты
4 шт.Цитаты-доказательства
дословно из субтитровФормат: сборка на живом примере · для практикующих · уверенность разметки 0.85 · источник