Дешёвая модель вышла дороже: цена за задачу, а не токен

Что в ролике
Если вы выбираете модель по цене за токены, реальный счёт за задачу может оказаться обратным ожиданиям: разработчик Anthropic дал одно и то же задание Sonnet 5 и Opus 4,8, и обе справились, но более дешёвый Sonnet 5 обошёлся почти вдвое дороже, потому что сделал 30–40 шагов вместо 4–5. В оплате учитываются токены, количество шагов и повторное чтение предыдущих действий, поэтому умная модель, которая делает меньше шагов, выигрывает по цене за задачу. OpenAI и Anthropic уже публично признают, что цена за токены теряет смысл: GPT6 Astra при одинаковой с Fable 5,1 цене токена оказывается на 30–40% дешевле за задачу, а Fable 5,1, будучи в 3–5 раз дороже Sonnet 5 по токенам, выходит дешевле на том же задании. Для оценки можно использовать график Artificial Analysis, который показывает стоимость задачи и уровень усилия, но это лишь прокси для ваших сценариев. На средних и крупных моделях вроде Opus, Fable или Astra не стоит поднимать усилие выше high, потому что прирост качества не окупает рост цены; на дешёвых маленьких моделях усиление можно ставить на max. Маленькие модели стоит брать только для одношаговых задач вроде сортировки писем или извлечения данных из чеков, а всё остальное, примерно 92–95% задач, отдавать средним и крупным моделям. Для точного решения нужно прогнать одну и ту же задачу на двух моделях в разных чатах и сверить расход в настройках до и после.
Практика
- Что получишь
- Понятный способ сравнивать модели по цене за задачу и правило выбора усилия и размера модели для одношаговых и многошаговых задач.
- Первый шаг
- Перед запуском задачи в ChatGPT или Claude запишите текущий расход в настройках, выполните одно и то же задание на двух моделях в разных чатах и сравните расход до и после.
- Цифры
- —в 2 раза — настолько дороже вышел более дешёвый Sonnet 5 по сравнению с Opus 4,8 на одинаковом задании
- —до 40 шагов — столько действий может делать маленькая модель вместо 4–5 у крупной
- —на 30–40% дешевле за задачу — GPT6 Astra при одинаковой цене токена с Fable 5,1
- —5–8% — доля задач, которые стоит отдавать маленьким моделям
- Честно
- Автор — AI-консультант и в конце продвигает свою платную работу и бесплатную 30-дневную email-серию; без серии можно обойтись. Сравнения моделей и график Artificial Analysis с уровнями усилия видны только на экране, поэтому точные точки на графике и значения придётся смотреть в видео. Для повторения не хватает конкретных примеров из вашей отрасли: автор даёт общий процесс, а не готовые цифры для ваших задач.
Если слова незнакомы — 3 терминов
- токенчасть слова, по которой модели считают цену и объём работы
- уровень усилиянастройка в моделях, которая заставляет модель делать больше шагов и тратить больше токенов
- проксиприблизительный ориентир для оценки до точного теста
Компоненты
2 шт.Формат: разбор · для бизнеса · уверенность разметки 0.9 · источник