Muse Spark Open: что нужно для запуска на самом деле

Что в ролике
Meta вернулась к открытым весам с Muse Spark Open — разреженной смесью экспертов на 816 млрд параметров, из которых на токен активны около 42 млрд. Модель получила нативный perception-энкодер на 1,8 млрд параметров для текста, изображений, видео и аудио и окно в 1 млн токенов, но каждый токен занимает 254 КБ кэша, и полный контекст требует около 254 ГБ памяти только под KV-кэш. В BF16 веса занимают 1,6 ТБ и требуют минимум 2 ТБ VRAM, а официальный NVFP4-квант весит около 530 ГБ и упирается в 700 ГБ VRAM — это 8 карт H200 или 4 системы Blackwell Ultra GB300. Локальный сценарий Apple на двух Mac Studio M5 Ultra с 512 ГБ памяти даёт 25 токенов в секунду при контексте 8К, но контекст 64К увеличивает ожидание первого токена более чем до 40 секунд. По бенчмаркам модель набирает 39 баллов в Artificial Analysis и 76,4 в Terminal Bench 2.1, уступая китайским открытым конкурентам Kimmy K3 и GLM 5.3, хотя в выборе инструментов MCP Atlas показывает 89,2. Лицензия Muse Model License позволяет дообучение и коммерческое развёртывание, но обязывает указывать фразу «built with Muse Spark Open», а платформам с выручкой свыше 20 млн долларов нужно отдельное соглашение с Meta. Для энтерпрайза с американскими требованиями к безопасности модель подходит, а независимому разработчику автор советует более лёгкие GLM 5.3 Flash или Kimmy K3. Поддержка с первого дня уже есть в SGLang, Llama CPP и Unsloth, а проприетарные ядра Helien на Blackwell Ultra быстрее рукописного CUDA почти в 4 раза.
Практика
- Что получишь
- Понять реальную цену запуска Muse Spark Open: сколько памяти, GPU и денег нужно, как модель ведёт себя на бенчмарках и в каких случаях её вообще есть смысл разворачивать.
- Первый шаг
- Проверить доступную VRAM и прикинуть KV-кэш для нужного контекста по формуле 254 КБ на токен, прежде чем скачивать 530 ГБ NVFP4-квант.
- Цифры
- —254 ГБ — столько памяти нужно только под KV-кэш при полном контексте 1 млн токенов
- —530 ГБ — размер официального NVFP4-кванта, требующего минимум 700 ГБ VRAM
- —25 токенов в секунду — скорость при контексте 8К на двух Mac Studio M5 Ultra
- —89,2 балла — результат Muse Spark Open в MCP Atlas по выбору инструментов
- Честно
- Автор продвигает платное членство канала для приоритетных ответов и закрытых разборов, но сам разбор не требует покупки. Часть цифр — это заявления Meta и Apple о скоростях на Mac Studio и ядрах Helien, а бенчмарки взяты из независимых таблиц. Повторить двухмашинный локальный сценарий не получится без пары Mac Studio M5 Ultra и Thunderbolt 5 RDMA.
Если слова незнакомы — 5 терминов
- KV-кэшпамять, в которой модель хранит обработанные предыдущие токены разговора
- BF1616-битный формат чисел для весов модели без сжатия
- NVFP44-битный формат чисел, который сжимает веса и уменьшает расход памяти
- VRAMвидеопамять GPU, в которой выполняются вычисления модели
- смесь экспертовархитектура, где при каждом токене работает только часть параметров модели
Связки из этого ролика
6 шт.- Nvidia H200 cluster
- Blackwell Ultra GB300
- AMD MI355X
- M5 Ultra Mac Studios + Thunderbolt 5 RDMA
- NVFP4 quantization
- GGUF dynamic quants
Компоненты
13 шт.Формат: обзор · для продвинутых · уверенность разметки 0.85 · источник