Jev от Typesafe AI: классификация данных за копейки

Что в ролике
Jev от Typesafe AI — модель другого типа, чем обычная LLM: на вход она принимает текст, а на выходе отдаёт не связный текст, а типизированное значение — выбор из списка, оценку по шкале или вероятность ответа «да». Она не работает с изображениями и почти ничего не генерирует, поэтому стоит 4 цента за миллион входных токенов и ничего за выходные. Автор за неделю построил на ней несколько пайплайнов: попарно сравнивал пул-реквесты из GitHub и группировал их по темам, а затем дешёвая Gemini Flash Light подписывала эти кластеры. Для маркетингового сайта со 112 пул-реквестов это стоило 1,1 цента, а для приложения ChatPRD с 1700 пул-реквестов и 17 000 пар — 9 центов. Похожим образом он разобрал локальные сессии Codex и Cloud Code, чтобы понять, как менялась его занятость: с января почти только инженерные задачи, а к сентябрю менее 40% — остальное ушло в работу с агентами, медиа и клиентские проекты. Ещё он прогнал через Jev 4500 комментариев к подкасту, отфильтровал 58 идей будущих эпизодов и собрал дашборд с тональностью по выпускам. Для продукта ChatPRD, который тянет 1100 источников данных, Jev выполнил больше 200 000 классификаций и попарных сравнений, обошёлся примерно в 4 доллара и помог отделить дешёвую разметку от дорогого анализа в Astra. На десерт он собрал голосовое приложение: OpenAI Real-time Voice API распознаёт фразу, Jev выбирает цвет эмоции из списка hex-значений, а API Ninja отдаёт подходящую цитату.
Практика
- Что получишь
- Поймёте разницу между моделью-решателем и обычной LLM и сможете собрать дешёвый пайплайн классификации для PR, почты, комментариев или локальных сессий без оплаты генерации текста.
- Первый шаг
- Открыть документацию Jev на typesafe.ai, посмотреть примитивы choice, score и new, затем отправить первый запрос с выбором из трёх категорий.
- Цифры
- —4 цента за миллион входных токенов — тариф Jev без платы за выходные токены
- —9 центов — столько стоило разобрать 1700 пул-реквестов и 17 000 пар в ChatPRD
- —1,1 цента — анализ 112 пул-реквестов маркетингового сайта
- —больше 200 000 классификаций и попарных сравнений — выполнил Jev для 1100 источников данных, обошлось примерно в 4 доллара
- Честно
- Ролик спонсирован Open Art Arena, а автор продвигает свой подкаст и упоминает собственный продукт ChatPRD как пример. Готовых скриптов для GitHub, Gmail и YouTube в открытый доступ не выложено, но принцип и архитектура показаны на экране. Jev сейчас бесплатен на AI Gateway от Vercel, поэтому часть замеров стоимости субсидирована, хотя автор приводит и прейскурантные 4 цента за миллион входных токенов.
Если слова незнакомы — 5 терминов
- LLMбольшая языковая модель, которая обычно генерирует текст в ответ на текст
- токенединица текста, за обработку которой модель берёт деньги
- пул-реквестзапрос на изменение кода, который проверяют перед слиянием в основную ветку
- hex-значениякоды цветов в виде решётки и шести символов, например #FF0000
- APIинтерфейс, через который программа обращается к чужому сервису
Связки из этого ролика
3 шт.- Jev + Gemini Flash Light
- Jev + Astra
- Jev + OpenAI Realtime API + API Ninjas Quotes API
Компоненты
14 шт.Формат: сборка на живом примере · для практикующих · уверенность разметки 0.8 · источник