DeepSeek не сделал GPU в 3 раза лучше: разбор цифр

Что в ролике
Вирусное утверждение о том, что DeepSeek сделал GPU в три раза ценнее, строится на делении сегодняшних $38 за GPU-час на теоретические $13 из отчёта февраля 2025 года, хотя сам DeepSeek тогда писал, что реальная выручка существенно ниже. В репозитории Deep Infer, выпущенном 20 октября 2026 года, заявлены 155 триллионов токенов в день и 26 000 выходных токенов в секунду на GPU в бенчмарке, но каждая цифра ограничена условиями. $38 получаются при собственных ценах и трафике DeepSeek, где 96% входных токенов уже в кэше, а в бенчмарке 64 GPU работают одной decode-группой, при этом скрипт предполагает 75% принятия догадок и принудительно выравнивает нагрузку экспертов. Скачать систему, которая зарабатывает эти $38, нельзя: в релизе нет serving-обвязки, KV-кэша, разделения prefill и decode и балансировки, а движок поддерживает только модель DeepSeek V4,1 Flash на NVIDIA Blackwell и Huawei Ascend 950, начиная со 128 GPU. На тех же бенчмарках vLLM уложился в 6% от графика Deep Infer, SGLang оказался до 4% быстрее на prefill и до 7% на decode-шагах, а GPU Stack на 8 B200 получил на 25% больше выходных токенов, но вдвое большее время первого токена. В агентных трассах инженера Henan Wang при 128 и более одновременных сессиях Deep Infer опережает соперников примерно на 2%, а при 16 и меньше падает до 0,6 от их скорости из-за фиксированных 13 миллисекунд на шаг ядра. Для переноса любой цифры на свою нагрузку нужно совпадение по типу считаемых токенов, вашим ценам, реальному проценту попаданий в кэш и размеру группы GPU, иначе сравнение бессмысленно. Вывод: Deep Infer — добротный движок, который слегка выигрывает при высокой параллельной нагрузке, но трёхкратного ускорения ваших GPU он не даёт, а владельцам Hopper и небольших нагрузок практичнее остаться на vLLM или SGLang.
Практика
- Что получишь
- Практический фильтр для оценки заявлений о GPU-производительности: какие токены считаются, какой кэш-хитрейт заложен и подходит ли движок под ваше железо. Поймёте, что Deep Infer не утраивает ценность GPU, и сможете выбрать между ним, vLLM и SGLang по реальным бенчмаркам.
- Первый шаг
- Сначала определите свой кэш-хитрейт и тип считаемых токенов, а для запуска движка скачайте репозиторий Deep Infer и убедитесь, что у вас Blackwell или Ascend 950 с группой от 128 GPU.
- Цифры
- —$38 за GPU-час — доход DeepSeek при off-peak цене, из которого вырос вирусный множитель
- —26 000 выходных токенов в секунду на GPU — пик опубликованного decode-бенчмарка
- —96% входных токенов уже в кэше в трафике DeepSeek
- —128 GPU — минимальная эффективная группа для Deep Infer (64 prefill + 64 decode)
- Честно
- Автор в середине ролика просит подписаться и вступить в платное сообщество The Stack, где обещает показать свой продакшен-воркфлоу; на выводы это не влияет. В пересказе нет скриншотов графиков и таблиц, часть цифр видна только на экране. Для запуска Deep Infer как live-сервиса потребуются не влитые в основной репозиторий community-пул-реквесты для кэша и OpenAI-совместимого сервера.
Если слова незнакомы — 7 терминов
- токенминимальная единица текста, которую модель читает или пишет
- GPUграфический процессор, на котором выполняются вычисления модели
- prefillэтап чтения входящего промпта и подготовки контекста
- decodeэтап генерации ответа токен за токеном
- decode-группанесколько GPU, которые совместно генерируют ответы одной модели
- KV-кэшсохранённые вычисления по уже виденным частям промпта, чтобы не считать их заново
- агентная трассазапись последовательных вызовов модели агентом при выполнении задачи
Компоненты
5 шт.Формат: разбор · для продвинутых · уверенность разметки 0.9 · источник