Диффузионные LLM: Mercury 3 и Decide на тестах

Что в ролике
Тем, кому важна скорость агентов, стоит посмотреть на Mercury 3: модель выдаёт более 1068 токенов в секунду и по бенчмаркам Inception оказывается рядом с GPT-6 Luna и Claude Haiku 5.5. Диффузионная модель работает не как печатная машинка, а как редактор: сначала делает черновик с пропусками, потом параллельно уточняет много токенов за несколько проходов. Mercury 3 силён в рассуждениях, следовании инструкциям и поиске, хорошо сдаёт GPQA Diamond и Aether search, а на Aether coding дотягивает до средних задач и роли кодирующего субагента. На тестах автора модель прошла 10 из 10 стандартных агентных вызовов инструментов и все 8 сложных, а на задании написать эссе на 5000 слов выдала 4200 слов вместо типичных для открытых моделей обрывов. Отдельный Mercury Decide — это диффузионная модель решений без генерации текста: она получает состояние и список вопросов и возвращает ответ с вероятностью за доли секунды. Независимые оценки Vala's AI показывают, что на проверке утверждений она сравнялась с Jev, на legal bench набрала около 87% против 74%, а стоит примерно четверть цены Jev. В демо Mercury Decide за доли секунды классифицирует скриншоты интерфейса и каталожные фото: определяет наличие человека, безопасность, тип и качество, и это хорошо ложится в связку дешёвых проверок вокруг дорогих рассуждений Mercury 3. Запуск модели стоит 10 центов за миллион входящих и 35 центов за миллион исходящих токенов, кэшированные входы дешевле на 90%, а контекст вырос с 260 тысяч до миллиона токенов.
Практика
- Что получишь
- Понимание, где диффузионные LLM уже применимы: Mercury 3 для агентов, голоса и поиска, Mercury Decide для дешёвых быстрых проверок, а также как их можно использовать вместе.
- Первый шаг
- Попробовать Mercury 3 и Mercury Decide бесплатно на OpenRouter или через API Inception, заменив базовый URL в OpenAI-совместимом клиенте.
- Цифры
- —1068 токенов в секунду — скорость генерации Mercury 3 на Nvidia Blackwell
- —0,16 секунды — медианное время одного суждения Mercury Decide по замеру Vala's AI
- —87% против 74% — результат Mercury Decide на legal bench в сравнении с Jev
- —10 центов и 35 центов — цена миллиона входящих и исходящих токенов на старте
- Честно
- Видео спонсировано Inception, автор получил ранний доступ к модели; это влияет на подачу, но не отменяет независимые замеры Vala's AI. Часть демонстрации видна только на экране: интерфейс тестового приложения, настройки, ответы API и сами скриншоты, поэтому для повторения придётся смотреть видео. Точные цены после скидки 50% могут вырасти, а сравнительные бенчмарки частично от самой Inception.
Если слова незнакомы — 5 терминов
- диффузионная LLMязыковая модель, которая уточняет сразу много токенов за несколько проходов, а не сочиняет строго по одному слову
- токенминимальная единица текста, которую обрабатывает модель, обычно часть слова или слово
- агентпрограмма, которая сама вызывает инструменты и выполняет задачи по шагам
- бенчмаркстандартизированный тест для сравнения моделей по разным навыкам
- кэшированные входыповторно отправляемый контекст, который провайдер хранит и считает дешевле
Связки из этого ролика
1 шт.- Mercury Decide + Mercury 3
Компоненты
10 шт.Формат: обзор · для практикующих · уверенность разметки 0.85 · источник