Decisions API: вероятности вместо готовых ответов

Что в ролике
Если бизнесу нужно сортировать обращения, расставлять приоритеты или классифицировать фото без чтения каждого сообщения, Decisions API от OpenAI возвращает не текст, а вероятность, которую приложение использует сразу. Автор показывает настройку с нуля в Decisions Playground на сайте OpenAI, без кода и установки, на примере сообщений и фотографий районной пекарни. API работает на одной модели GPT6 Luna, отвечает примерно в 10 раз быстрее генеративных вызовов и не тарифицирует выходные токены, только входные — 10 центов за миллион. Есть три типа вопросов: predicate проверяет истинность утверждения и выдаёт вероятность от 0 до 100%, score оценивает срочность по уровням, choice выбирает одну из заданных категорий. Для срочности автор задаёт три уровня — can wait, reply today, respond now — и объясняет, что итоговый балл это взвешенное среднее вероятностей по уровням. В тестах сообщение об отменённом заказе за два часа до самовывоза получает высокий балл в сторону respond now, а вопрос о безглютеновом меню уходит в reply today. Для изображений модель уверенно отличает круассан как pastry и хлеб на закваске как bread, а фото пиццы честно отправляет в something else. Порог срабатывания автор предлагает задавать самому, например 80% для флага проблемы, и предупреждает, что при размытых вероятностях лучше отдавать запрос человеку.
Практика
- Что получишь
- Понимание, как превратить рутинную сортировку сообщений, приоритизацию и классификацию фото в автоматический этап с вероятностным ответом, и готовые примеры конфигураций для predicate, score и choice.
- Первый шаг
- Открыть Decisions Playground на сайте OpenAI, выбрать шаблон или тип вопроса и прогнать первое сообщение, например фразу о доставке.
- Цифры
- —10 центов за миллион входных токенов — цена Decisions API
- —10 раз быстрее — настолько API быстрее генерации текста по данным OpenAI
- —0–100% — диапазон вероятности, которую возвращает predicate
- —80% — пример порога, который автор предлагает для автоматического флага проблемы
- Честно
- В начале и в конце автор продвигает свой мастер-класс: говорит, что он стоит 499 долларов, но зрителям доступен бесплатно по ссылке из описания — это реклама его продукта. Все примеры разобраны только через Playground без кода, поэтому, чтобы встроить API в своё приложение, код придётся писать или искать отдельно. Название модели GPT6 Luna и цены могут измениться, потому что API находится в публичной бете.
Если слова незнакомы — 4 терминов
- predicateтип вопроса, который проверяет истинность утверждения и возвращает вероятность
- scoreтип вопроса для оценки по упорядоченным уровням, например срочности
- choiceтип вопроса, который выбирает один вариант из заданного списка категорий
- токеныединицы текста, за которые OpenAI считает оплату
Компоненты
4 шт.Формат: пошаговый урок · для новичков · уверенность разметки 0.9 · источник