К содержимому
Дайджест

DeepSeek не сделал GPU в 3 раза лучше: разбор цифр

The Stack·16 ноября 2026·15:31
текст даёт основное понять, как устроено промо
Открыть на YouTube
Разбор вирусного утверждения о том, что DeepSeek утроил ценность GPU, для практиков, которые хотят понимать реальную экономику инференса и бенчмарки.

Что в ролике

Вирусное утверждение о том, что DeepSeek сделал GPU в три раза ценнее, строится на делении сегодняшних $38 за GPU-час на теоретические $13 из отчёта февраля 2025 года, хотя сам DeepSeek тогда писал, что реальная выручка существенно ниже. В репозитории Deep Infer, выпущенном 20 октября 2026 года, заявлены 155 триллионов токенов в день и 26 000 выходных токенов в секунду на GPU в бенчмарке, но каждая цифра ограничена условиями. $38 получаются при собственных ценах и трафике DeepSeek, где 96% входных токенов уже в кэше, а в бенчмарке 64 GPU работают одной decode-группой, при этом скрипт предполагает 75% принятия догадок и принудительно выравнивает нагрузку экспертов. Скачать систему, которая зарабатывает эти $38, нельзя: в релизе нет serving-обвязки, KV-кэша, разделения prefill и decode и балансировки, а движок поддерживает только модель DeepSeek V4,1 Flash на NVIDIA Blackwell и Huawei Ascend 950, начиная со 128 GPU. На тех же бенчмарках vLLM уложился в 6% от графика Deep Infer, SGLang оказался до 4% быстрее на prefill и до 7% на decode-шагах, а GPU Stack на 8 B200 получил на 25% больше выходных токенов, но вдвое большее время первого токена. В агентных трассах инженера Henan Wang при 128 и более одновременных сессиях Deep Infer опережает соперников примерно на 2%, а при 16 и меньше падает до 0,6 от их скорости из-за фиксированных 13 миллисекунд на шаг ядра. Для переноса любой цифры на свою нагрузку нужно совпадение по типу считаемых токенов, вашим ценам, реальному проценту попаданий в кэш и размеру группы GPU, иначе сравнение бессмысленно. Вывод: Deep Infer — добротный движок, который слегка выигрывает при высокой параллельной нагрузке, но трёхкратного ускорения ваших GPU он не даёт, а владельцам Hopper и небольших нагрузок практичнее остаться на vLLM или SGLang.

Практика

Что получишь
Практический фильтр для оценки заявлений о GPU-производительности: какие токены считаются, какой кэш-хитрейт заложен и подходит ли движок под ваше железо. Поймёте, что Deep Infer не утраивает ценность GPU, и сможете выбрать между ним, vLLM и SGLang по реальным бенчмаркам.
Первый шаг
Сначала определите свой кэш-хитрейт и тип считаемых токенов, а для запуска движка скачайте репозиторий Deep Infer и убедитесь, что у вас Blackwell или Ascend 950 с группой от 128 GPU.
Цифры
  • —$38 за GPU-час — доход DeepSeek при off-peak цене, из которого вырос вирусный множитель
  • —26 000 выходных токенов в секунду на GPU — пик опубликованного decode-бенчмарка
  • —96% входных токенов уже в кэше в трафике DeepSeek
  • —128 GPU — минимальная эффективная группа для Deep Infer (64 prefill + 64 decode)
Честно
Автор в середине ролика просит подписаться и вступить в платное сообщество The Stack, где обещает показать свой продакшен-воркфлоу; на выводы это не влияет. В пересказе нет скриншотов графиков и таблиц, часть цифр видна только на экране. Для запуска Deep Infer как live-сервиса потребуются не влитые в основной репозиторий community-пул-реквесты для кэша и OpenAI-совместимого сервера.
Если слова незнакомы — 7 терминов

Компоненты

5 шт.

Формат: разбор · для продвинутых · уверенность разметки 0.9 · источник