К содержимому
Дайджест

Открытые модели вместо API: цикл train-to-deploy Fireworks

AI Engineer·11 октября 2026·19:18
текст даёт основное что произошло промо
Открыть на YouTube
Доклад сотрудника Fireworks о переходе с закрытых моделей на открытые и доведении их качества до уровня closed source циклом обучения и инференса на одной платформе.

Что в ролике

Если вы платите за закрытые модели и чувствуете, что расходы быстро растут, Fireworks предлагает переход на открытые модели с циклом train-to-deploy на одной платформе. Автор, сотрудник Fireworks, формулирует три посылки: открытые модели вроде GLM уже production-ready, разрыв в качестве закрывается кастомизацией и обучением, а стек смещается от разового сервинга к непрерывному циклу обучения и инференса. Платформа обслуживает около 30 трлн токенов, 10 000+ компаний и 200 тыс. запросов в секунду, а среди кейсов — Cursor Composer 2 с ускорением инференса в 13 раз и Vercel с улучшением задержки в 40 раз. Скорость достигается собственным движком FireAttention и CUDA-ядрами, которые оптимизируют под конкретную нагрузку, плюс техники speculative decoding, disaggregation и quantization. Для обучения есть три варианта: training agent для менеджеров, который сам выбирает модель и гиперпараметры, managed training через UI или API, и training API для ML-инженеров, которые хотят задать свой цикл и функцию потерь. На платформе можно обучать supervised fine-tuning, reinforcement fine-tuning и DPO, а после обучения развернуть модель в один клик благодаря hotloading и общей численной точности между обучением и инференсом. В конце автор показывает демо training agent и managed training, а для training API отсылает к cookbook на сайте.

Практика

Что получишь
Поймёте, как Fireworks закрывает разрыв между открытыми и закрытыми моделями и какие из трёх вариантов обучения подходят под разные роли — от продакт-менеджера до ML-инженера.
Первый шаг
Загрузить свой датасет в Fireworks и запустить training agent, который сам подберёт модель и гиперпараметры, либо пройти cookbook для training API.
Цифры
  • —30 трлн токенов — столько Fireworks обслуживает в проде, по словам автора
  • —200 тыс. запросов в секунду — текущая нагрузка платформы
  • —13 раз — ускорение инференса модели Cursor Composer 2 за счёт FireAttention
  • —12% — прирост качества после reinforcement fine-tuning для Genpark
Честно
Это презентация продукта Fireworks: автор — сотрудник компании, и все кейсы Cursor, Vercel и Genpark поданы как успехи платформы, без независимых замеров. Интерфейсы, настройки и команды видны только в демо на экране, в пересказе их нет. Training agent не поддерживает reinforcement fine-tuning, поэтому для RFT придётся использовать managed training или API и, возможно, просить помощи у Fireworks.
Если слова незнакомы — 8 терминов

Компоненты

8 шт.

Формат: анонс продукта · для практикующих · уверенность разметки 0.86 · источник