Jev: маршрутизация и быстрые решения в real-time

Что в ролике
Если вы привыкли к LLM, которые долго думают и генерируют текст, Jev работает иначе: он принимает решения, возвращает структурированные ответы и стоит почти ничего. Джон Линдквист показывает живые демо: голосовое управление списком дел, где Jev на лету распознаёт команды, сопоставляет их с задачами и вызывает нужные функции без пауз. Вторая группа сценариев — сопоставление записей: Jev попарно сравнивает сотни тысяч строк и предлагает слияние дублей с настраиваемым порогом уверенности. Модель также работает как маршрутизатор: в шахматной демке она перебирает возможные ходы, ранжирует их и делает выбор в среднем в 10 раз быстрее и в 4 раза дешевле обычной LLM. Джон и Клэр отдельно показывают маршрут Википедии к статье «Философия», где Jev через API прокладывает путь, и рабочее пространство с тремя агентами, которые не сталкиваются друг с другом при выполнении задач. Ещё один демо — презентационный коуч: он слушает речь, сверяет со списком пунктов и отмечает покрытые темы в реальном времени. Ведущие подчёркивают: Jev хорош там, где выбор ограничен — например, 10 кликабельных элементов на странице или кнопки геймпада, а для анализа скриншотов и креативных задач нужна обычная LLM. Если одиночного вызова Jev не хватает, Джон советует добавлять ещё слои классификации и проверять результат более умной моделью.
Практика
- Что получишь
- Понимание, чем Jev отличается от генеративных LLM и где его применять: маршрутизация, голосовой ввод, дедупликация, контроль агентов. Конкретные приёмы — многослойные вызовы Jev, пороги уверенности и проверка результатов более умной моделью.
- Первый шаг
- Попробовать Jev через API или Vercel AI Gateway на простом сценарии классификации — например, сопоставить список команд с функциями и посмотреть на скорость и стоимость.
- Цифры
- —73 цента — во столько Джону обошлись сотни демо Jev за всё время тестов
- —4 цента за миллион входных токенов — цена Jev, вывод при этом бесплатный
- —10 раз быстрее и 4 раза дешевле — результат Jev против обычной LLM в шахматной демке
- —5 гигабайт JSON обработались за пару минут и стоили 40 центов
- Честно
- В середине выпуска идёт реклама Vanta, а в конце Джон и ведущая продвигают платную программу Mega.dev. Демо показаны на экране, но код и точные настройки не приложены, поэтому повторять придётся по описанию. Часть деталей интерфейса и значения порогов видны только в видео.
Если слова незнакомы — 3 терминов
- LLMбольшая языковая модель, которая генерирует текст и рассуждения
- APIспособ программно обращаться к сервису и вызывать его функции
- агентпрограмма, которая сама выполняет шаги задачи и может работать параллельно с другими
Связки из этого ролика
3 шт.- Jev + MCP
- Jev + Vercel AI Gateway
- Codex + Mac minis
Компоненты
8 шт.Формат: интервью · для практикующих · уверенность разметки 0.85 · источник