Сколько стоит держать DeepSeek V4.1 Flash дома

Что в ролике
Если хочется держать фронтирную модель на своём столе, а не платить за токены, упирается всё не в видеокарты, а в объём памяти и скорость диска. Загрузка DeepSeek V4,1 Flash весит около 510 ГБ и содержит 763 млрд параметров: 552 млрд в основной сети, около 196 млрд в N-gram таблице, плюс модуль черновика и vision-энкодер. Работает при этом не весь файл: из 40 слоёв по 384 эксперта на каждый токен берётся шесть, то есть примерно один из 64, поэтому читает промпт модель на 8 млрд активных параметров, а пишет ответ на 16 млрд. Локальный движок dwarfstar от Сальваторе Санфилиппо держит N-gram таблицу на диске в любом режиме, так что в память уезжают только основные веса: 294 ГБ в 4-битной сборке или 152 ГБ в 2-битной. На практике это значит, что 4 бита требуют Mac с 512 ГБ, 2 бита влезают в 256 ГБ, а на 128 ГБ включается SSD-стриминг экспертов — запись остаётся около 16 токенов в секунду на MacBook Pro с M5 Max, но чтение длинного промпта падает до 47–72 токенов в секунду против 340–716 на 512-гигабайтном Mac Studio. Качество при квантизации теряется немного: 4-битный файл совпал с официальным API в 96,7% случаев по следующему токену, а 2-битный — в 90,1%. Экономика выходит против локального запуска: вход стоит от 5 099 долларов за Mac Studio на 128 ГБ, электричество даёт около 74 центов за миллион записанных токенов против 60 центов — 1,20 доллара у DeepSeek, и те же 5 099 долларов в облаке покупают около 4,2 млрд токенов, которые домашней машине пришлось бы печатать больше восьми лет без остановки. Вывод автора простой: своя машина покупает приватность, независимость и работу без сети, а не экономию.
Практика
- Что получишь
- Понимание, влезет ли модель в вашу машину и чего будет стоить запуск: требования к памяти для 4-битной и 2-битной сборок, реальные скорости чтения и записи и честный расчёт против оплаты по токенам.
- Первый шаг
- Посмотреть, сколько памяти у вашего компьютера: при 128 ГБ и больше имеет смысл скачать 2-битную сборку dwarfstar и попробовать запуск в режиме SSD-стриминга.
- Цифры
- —510 ГБ — столько весит загрузка DeepSeek V4.1 Flash на диск
- —294 и 152 ГБ — основные веса модели в 4-битной и 2-битной сборках dwarfstar
- —96,7% и 90,1% — как часто 4-битный и 2-битный файлы совпадали со следующим токеном официального API на 100 промптах
- —5 099 долларов — самый дешёвый Mac Studio на 128 ГБ, с которого начинается локальный запуск
- Честно
- Автор ничего не продаёт, единственная просьба — подписаться на канал. Все числа взяты из чужих публикаций: гайда и GitHub dwarfstar, карточки модели на Hugging Face, замеров Artificial Analysis и цен Apple, — своих тестов в ролике нет, а цены могут измениться. Конфигурации Mac Studio с 512 ГБ на момент записи ещё не было в продаже и цена не объявлена, поэтому самую быструю сборку проверить сегодня нельзя.
Если слова незнакомы — 6 терминов
- параметрывыученные моделью числа, из которых состоит её файл
- экспертотдельный блок внутри модели, который включается только для части токенов
- токенкусочек текста — слово, часть слова или знак, который модель обрабатывает за раз
- квантизациясжатие весов: то же число хранится в 4 или 2 битах вместо 16, файл меньше, точность чуть ниже
- SSD-стримингрежим, где часть весов лежит на диске и подгружается по ходу работы
- N-gram таблицаогромный справочник частых последовательностей слов, который движок читает прямо с диска
Связки из этого ролика
6 шт.- DeepSeek V4.1 Flash + DwarfStar 2-bit на Mac Studio с 128 ГБ — минимальный рабочий вариант: веса на 152 ГБ помещаются, N-gram таблица остаётся на диске, но длинные промпты читаются медленно
- DeepSeek V4.1 Flash + DwarfStar 4-bit на Mac Studio с 512 ГБ — вся модель в unified memory, около 18 токенов в секунду на запись и 340–716 на чтение, но такая конфигурация ещё не продаётся
- DeepSeek V4.1 Flash + SSD-стриминг экспертов — режим для 128 ГБ: недавно использованные эксперты в памяти, остальные подтягиваются с диска, запись падает с 14 до 6,5 токена в секунду на непрогретом кэше
- DeepSeek V4.1 Flash + две RTX Pro 6000 в 2 битах — около 4000 токенов в секунду на чтение и 113 на запись, но карты стоят $32 000 и требуют около 300 ГБ системной памяти под lookup-таблицы
- DeepSeek V4.1 Flash + NVIDIA DGX Spark — стриминг 2-битного файла даёт около 100 токенов в секунду на чтение и 9,3 на запись
- DeepSeek V4.1 Flash + облачный API DeepSeek — 217 токенов в секунду на запись по замерам Artificial Analysis против примерно 16 локально, при цене 60 центов за миллион токенов вне пика
Компоненты
9 шт.Формат: разбор · для практикующих · уверенность разметки 0.85 · источник