OpenAI Decisions API: дороже Jeff, зато понимает картинки

Что в ролике
Если вам нужно быстро классифицировать запросы или отвечать да/нет на простые вопросы, OpenAI выпустила публичный Decisions API — аналог Jeff с тремя типами ответов: predicate, choice и score. Работает только на модели GPT6 Luna, принимает текст и изображения, но стоит 10 центов за 1 млн входных токенов против 4 центов у Jeff, хотя выходные токены бесплатны в обоих случаях. В playground можно проверить, как один и тот же вопрос о хот-доге отвечается в режиме choice или predicate. В коде всё сводится к вызову метода create у клиента decisions: вы передаёте пользовательский ввод и список вопросов с типом, названием, инструкцией и вариантами ответа. Для картинок изображение сначала кодируется в base64 и отправляется как input_image вместе с текстовым промптом. В сравнении на текстовых задачах локальная модель через Olama оказалась быстрее — 1,1 секунды против 2,5 у OpenAI и 2,9 у Jeff, при этом Olama бесплатна. На изображениях OpenAI выиграла у локальной модели на Dell Pro Max с GB10: 3,4 секунды против 9,5. Автор делает вывод, что Decisions API — это более дорогой Jeff, который оправдан, только если нужна обработка изображений или вы уже внутри экосистемы OpenAI.
Практика
- Что получишь
- Понимание, как отправлять запросы в Decisions API для бинарных ответов, классификации и оценки, включая работу с изображениями, и осознанный выбор между OpenAI, Jeff и открытыми моделями по цене и скорости.
- Первый шаг
- Открыть официальную документацию Decisions API и playground, чтобы без кода проверить predicate, choice и score на своих примерах.
- Цифры
- —10 центов за 1 млн входных токенов — цена Decisions API, против 4 центов у Jeff
- —2,5 секунды — обработка текста через OpenAI, 2,9 секунды через Jeff, 1,1 секунды через локальную Olama
- —3,4 секунды — разбор изображений через OpenAI, тогда как локальная модель на Dell Pro Max с GB10 заняла 9,5 секунды
- —99% уверенности модель дала, что на фото город в Европе
- Честно
- Автор в конце продвигает свои услуги: вкладку services на сайте, фриланс и консалтинг, а также просит подписаться. Все замеры скорости сделаны на его оборудовании Dell Pro Max с GB10, поэтому на другом железе локальные модели могут быть быстрее. Для повторения нужен платный API-ключ OpenAI, и модель GPT6 Luna — единственная доступная для этого API.
Если слова незнакомы — 6 терминов
- APIинтерфейс, через который программа общается с сервисом по сети
- predicateтип вопроса, на который ответ только да или нет
- choiceвыбор одного варианта из заданного списка
- scoreоценка по шкале, например степень кликбейтности
- base64способ превратить картинку в текстовую строку для передачи в запросе
- input tokensединицы текста, за обработку которых берётся плата
Связки из этого ролика
4 шт.- Python
- OpenAI Python SDK
- python-dotenv
- uv
Компоненты
5 шт.Формат: пошаговый урок · для практикующих · уверенность разметки 0.9 · источник