DeepSeek и Huawei: что стоит за 99,8% утилизации Ascend

Что в ролике
30 сентября DeepSeek выпустила шесть ядерных библиотек для чипов Huawei Ascend с теми же именами, что и февральский релиз для Nvidia: они покрывают умножение матриц, внимание, маршрутизацию токенов и выбор top-k. Самый громкий показатель — 99,8% утилизации — означает, что BF16 на чипе Ascend 950DT достиг 431 терафлопс при потолке 432, но H100 2022 года в том же режиме выдаёт 1979 терафлопс. Собственное сравнение DeepSeek показывает, что те же ядра Flash MLA на B200 дают 1350 терафлопс при чтении промпта против 410 у Huawei, то есть Ascend работает на 30–35% скорости Nvidia. Автор разбирает и миф про Tai Lang: это не язык DeepSeek для замены CUDA, а компиляторный проект Tile AI на базе Apache TVM, где новым является только бэкенд генерации кода под Ascend 950. Для распределённого обучения у DeepEP Ascend пока нет части коллективных операций и балансировки загрузки экспертов, а бенчмарк снят на непубличном HDK, который получила только DeepSeek. Само решение требует свежего программного стека CAN и чипа 950DT, который поступит заказчикам в четвёртом квартале 2026, а актуальные облачные Huawei 910B и 910C официально не поддержаны; у потребительского Atlas 300i Duo на 310P владельцы получают около 15 токенов в секунду на 32B-модели. Позитивная часть: Huawei позволила внешней команде напечатать честный потолок, а память 950DT (144 ГБ и 4 ТБ/с против 80 ГБ и 3,35 у H100) выигрывает для больших MoE-моделей. Итог автора — в этом году дёшево запускать модели на Huawei не выйдет, но в пятилетней перспективе программный аргумент против альтернативы Nvidia исчез.
Практика
- Что получишь
- Понять, что на самом деле означает 99,8% утилизации и почему этот релиз важен как сигнал, но не как готовое железо. Сможете отличить программную оптимизацию от конкурентоспособности чипа.
- Первый шаг
- Открыть README релиза DeepSeek и найти таблицу BF16 с 431 терафлопс против потолка 432, чтобы самому увидеть разницу между утилизацией и абсолютной производительностью.
- Цифры
- —99,8% — утилизация Ascend 950DT в BF16, достигнутая DeepSeek
- —431 терафлопс — фактическая производительность BF16 при потолке 432 на чипе Huawei
- —1979 терафлопс — BF16 на H100 2022 года в том же режиме
- —144 ГБ и 4 ТБ/с — память Ascend 950DT против 80 ГБ и 3,35 у H100
- Честно
- Ролик не продвигает курс или партнёрскую ссылку, но почти все выводы опираются на таблицы из README, показанные на экране и не продублированные в речи. Бенчмарк DeepEP снят на непубличном HDK, поэтому повторить эти цифры сейчас невозможно. Один из шести репозиториев, DeepEP Ascend, на момент ролика не имел файла лицензии, то есть юридически недоступен для использования.
Если слова незнакомы — 5 терминов
- BF16числовой формат половинной точности для быстрых вычислений в нейросетях
- терафлопстриллион операций с плавающей точкой в секунду
- top-kвыбор k наиболее вероятных следующих токенов при генерации
- MoEархитектура модели из нескольких экспертов, где на каждый токен работают не все параметры
- CANпрограммный стек Huawei для Ascend, аналог CUDA
Связки из этого ролика
2 шт.- Huawei Ascend + CANN 9.2
- Nvidia CUDA + H100/B200
Компоненты
9 шт.Формат: разбор · для продвинутых · уверенность разметки 0.9 · источник