DeepSeek V4.1 Flash: какой файл ставить — Q2 или Q4

Что в ролике
Если на компьютере хватает памяти под 294 ГБ весов Q4, автор советует брать именно его: это практически собственная модель DeepSeek, а по скорости он почти не отличается от Q2. Полностью в память Q4 помещается только на Mac с 512 ГБ, который Apple обещает в конце октября без цены, а Q2 с его 152 ГБ весов влезает на 256-ГБ Mac, два связанных 128-ГБ Mac или DGX Spark. Проверка совпадения следующего токена дала Q4 около 97% против примерно 90% у Q2, и разрыв растёт на длинных промптах, хотя сам подсчёт не говорит о правильности ответов. На 20 сложных вопросах Q4 ответил 20 из 20, а Q2 — 19 из 20, застряв на одном вопросе до лимита 16 000 токенов и потратив на всё 47 минут против 33 у Q4. Скорость в памяти почти не решает: на 512-ГБ Mac Q2 пишет около 19,8 токена в секунду, а Q4 — около 18,6, зато на 128-ГБ Mac Q4 с чтением с диска падает до 10,2 токена в секунду против 15,7 у Q2. Для длинных документов и кодинга доказательств пока мало, но у Diffbot 2-битная версия на HumanEval набрала 91,5% против 96,3% у 3-битной, а один пользователь поймал Q2 в бесконечный цикл на 38 000 токенов. Если основная работа — длинные сессии и код, автор советует либо дождаться 512-ГБ Mac Studio, либо гонять такие задачи в сервисе DeepSeek.
Практика
- Что получишь
- Понять, какой из двух бесплатных локальных файлов DeepSeek V4.1 Flash реально влезет в вашу машину, и сколько скорости или качества вы отдаёте за меньший размер.
- Первый шаг
- Проверьте объём памяти и свободного места на диске, затем скачайте Q2 для 128–256 ГБ или Q4 при 512 ГБ и жёстком диске от 1 ТБ.
- Цифры
- —294 ГБ — столько весов Q4 нужно держать в памяти; у Q2 это 152 ГБ
- —97% против 90% — совпадение следующего токена с сервисом DeepSeek у Q4 и Q2 на коротких ответах
- —19,8 против 18,6 токена в секунду — скорость Q2 и Q4 в памяти на 512-ГБ Mac
- —9 499 долларов — минимальная цена Mac Studio с 256 ГБ памяти на Apple Store в момент записи
- Честно
- В конце автор просит подписаться и поставить лайк — прямой рекламы продукта нет. Основные цифры по Q4 и Q2 взяты из открытых тестов Dwarf Star и сторонних замеров, но крупного сравнительного бенчмарка на кодинге и длинных документах пока нет, поэтому вывод о деградации Q2 основан на единичных случаях и тесте Diffbot для другой сборки.
Если слова незнакомы — 4 терминов
- токенслово или часть слова, на которые модель делит текст и которыми считает длину
- промпттекст, который вы подаёте модели на вход
- весачисловые параметры модели, в которых хранится её обученное знание
- Q2 и Q4способы сжатия весов модели до 2 или 4 бит на число
Связки из этого ролика
4 шт.- Dwarf Star + DeepSeek V4.1 Flash Q4
- Dwarf Star + DeepSeek V4.1 Flash Q2
- Dwarf Star + Nvidia DGX Spark
- LM Studio + llama.cpp
Компоненты
7 шт.Формат: обзор · для практикующих · уверенность разметки 0.85 · источник