AMD R9700 против Intel B70: выбор карты для локального ИИ

Что в ролике
Обе карты — AMD Radeon AI Pro R9700 и Intel Arc Pro B70 — имеют по 32 ГБ видеопамяти и близкую пропускную способность, но после летнего роста цен R9700 стоит $1700–1810, а B70 — $1300–1460, что даёт $41 против $55 за гигабайт в пользу Intel. По железу AMD заметно мощнее: у R9700 64 вычислительных блока, 640 ГБ/с и 191 TFLOPS FP16, тогда как у B70 32 ядра Xe, 608 ГБ/с и примерно впятеро меньшая матричная производительность. На плотной модели Qwen3-27B в Llama.cpp R9700 выдал 27,1 токена/с, B70 — 21,4, но с multi-token prediction (MTP) с глубиной 2 R9700 разогнался до 46,2 (плюс 70%), а B70 лишь до 28,4 (плюс 33%). На MoE-моделях с ~3 млрд активных параметров после летнего обновления Mesa B70 на Vulkan удвоился с 38 до 76 токенов/с, почти сравнявшись с R9700 (77 токенов/с), а под нагрузкой Vulkan выдал 170–176 против ~100 на SYCL. На мелких нагрузках B70 немного быстрее: Llama 8B показывает 35,4 против 29,1 токена/с, генерация картинки 1024×1024 — 3,6 против 3,9 секунды. Однако на плотных моделях с MTP R9700 обходится дешевле: $38 против $46 за токен/с при текущих ценах $1750 и $1300, и B70 должен стоить $1080, чтобы сравняться. Программно R9700 проще: на Windows достаточно LM Studio с Vulkan и MTP, на Linux — HIP, а вот B70 требует Linux с обновлённым Mesa, работает через WSL2 и Docker, на Windows сломан Vulkan MultiGPU, и есть баги с выводом на Battlemage и Gemma. Альтернативой остаётся б/у RTX 3090 за $1050–1450: у неё 24 ГБ вместо 32, но она быстрее обеих карт и не требует возни с драйверами, поэтому автор советует R9700 для плотных моделей, B70 — если нужен максимум VRAM за меньшие деньги, а 3090 — если модель влезает в 24 ГБ.
Практика
- Что получишь
- Сможете выбрать между AMD R9700 и Intel B70 под свои задачи: плотные модели или MoE, Windows или Linux, и понять, стоит ли вместо них взять б/у RTX 3090.
- Первый шаг
- Если уже есть одна из карт, прогоните свои модели с MTP depth 2 на R9700 или с последним Mesa на B70 и сравните токены в секунду с цифрами из видео.
- Цифры
- —$41 против $55 — цена за гигабайт видеопамяти у B70 и R9700 при текущих ценах
- —46,2 токена/с — скорость R9700 на плотной модели с MTP depth 2, рост 70% против 27,1 без MTP
- —76 токенов/с — скорость B70 на MoE-модели после обновления Mesa, почти сравнялась с R9700 (77)
- —1050–1450 долларов — цена б/у RTX 3090 с 24 ГБ, которая быстрее обеих карт
- Честно
- Автор канала продвигает платную подписку: обещает приоритетные ответы в комментариях и эксклюзивные видео для участников. Цифры собраны из разных источников, включая блог AMD и отдельных владельцев, а не из контролируемого теста. Результат 84,6 токена/с на B70 получен в однопользовательском режиме и не подходит для обслуживания нескольких запросов.
Если слова незнакомы — 9 терминов
- токенединица текста, которую модель генерирует за один шаг
- MTPmulti-token prediction, предсказание нескольких токенов за проход, ускоряет генерацию
- MoEmixture of experts, модель, где за каждый токен активна только часть параметров
- Llama.cppпопулярный движок для запуска языковых моделей на процессоре и видеокарте
- Vulkanграфический API, используемый для вычислений на видеокартах
- SYCLстандарт параллельных вычислений, альтернатива CUDA, используется на Intel
- HIPAMD-аналог CUDA для вычислений на своих видеокартах
- WSL2подсистема Linux в Windows, нужна для запуска Linux-инструментов на Intel B70
- Dockerконтейнеризация, упрощает запуск программ с зависимостями
Связки из этого ролика
4 шт.- AMD ROCm + Llama CPP
- Intel SYCL/Vulkan + Llama CPP
- AMD HIP + vLLM
- Intel XPU + vLLM
Компоненты
9 шт.Формат: обзор · для продвинутых · уверенность разметки 0.85 · источник