128 ГБ VRAM локально: цены и бенчмарки 2026

Что в ролике
В сентябре 2026 года память подорожала, и старые гайды про 128 ГБ VRAM за $600 больше не работают: Framework Desktop и DGX Spark выросли в цене, а RTX 5090 стоит от $6 449. Скорость генерации у любой машины упирается в формулу: пропускная способность памяти, делённая на размер активных весов, поэтому плотные 70B-модели остаются медленными, а mixture-of-experts вроде GPT-OSS 120B с 5 млрд активных параметров — нет. Самый дешёвый готовый вариант — мини-ПК на AMD Ryzen AI Max Plus 395 (Strix Halo) примерно за $3 324, он выдаёт около 55,6 токена в секунду на GPT-OSS 120B через Llama CPP и Vulkan, но на Windows отдаёт модели только 96 ГБ, а на Linux около 107 ГБ. Mac Studio M5 Max с 128 ГБ за $5 999 показывает 87,9 токена в секунду на той же модели и вдвое большую полосу 614 ГБ/с, однако prefill в 3,5 раза медленнее CUDA-карт и нет CUDA. DGX Spark на том же GB10 за $4 680–$5 999 близок к Strix Halo по генерации (60,6 токена в секунду), но обрабатывает промпты в 2,7–5 раз быстрее и даёт полный CUDA-стек. Сборка из четырёх б/у MI50 теперь обходится в $2 300–$2 600 только за карты плюс хост с питанием и памятью, итог $3 800–$5 600, а скорость лишь около 20 токенов в секунду при устаревшем ROCm. Три б/у RTX 3090 дают 72 ГБ и работают быстрее, но карты подорожали до $1 413, а в расчёте доллара за токен в секунду Mac и Strix Halo примерно равны. Если использовать машину пару часов в день, аренда RTX Pro 6000 на RunPod может быть выгоднее покупки: $3 324 хватает на 1 590 часов, а это больше двух лет по два часа в день.
Практика
- Что получишь
- Понимание, какая конфигурация даёт лучшую скорость генерации и обработки промптов за свои деньги, и какие ловушки Windows, б/у карт и аренды стоит учитывать.
- Первый шаг
- Сначала решить, сколько часов в день вы будете гонять модели, и проверить актуальные цены Strix Halo-мини-ПК и Mac Studio M5 Max в своём регионе.
- Цифры
- —55,6 токена в секунду — скорость GPT-OSS 120B на Strix Halo через Llama CPP и Vulkan в мае 2026
- —87,9 токена в секунду — скорость Mac Studio M5 Max на GPT-OSS 120B при 4K-контексте
- —614 ГБ/с — пропускная способность памяти Mac Studio M5 Max 128 ГБ
- —$5 999 — цена Mac Studio M5 Max 128 ГБ в Apple Store на дату ролика
- Честно
- Автор в конце рекламирует членство канала с эксклюзивными видео и приоритетными ответами. Все цены проверены 30 сентября 2026 и быстро меняются, а оценки потребления и бюджета DIY — расчёт автора, а не замеры. Часть цифр видна только на экране в таблицах и графиках, в пересказе их не воспроизвести полностью.
Если слова незнакомы — 7 терминов
- VRAMвидеопамять, которую модели используют для хранения весов и вычислений
- токенединица текста, которую модель генерирует или читает за один шаг
- prefillфаза, когда модель читает промпт и контекст до выдачи первого токена
- mixture-of-expertsархитектура, где на каждый токен активна лишь небольшая часть параметров модели
- CUDAпрограммная платформа NVIDIA для вычислений на GPU
- ROCmоткрытая платформа AMD для вычислений на GPU
- unified memoryобщая память для CPU и GPU, благодаря которой Mac и Strix Halo держат большие модели без отдельной видеокарты
Связки из этого ролика
6 шт.- AMD Strix Halo mini PC (Ryzen AI Max+ 395)
- Apple Mac Studio M5 Max 128GB
- NVIDIA DGX Spark
- 4x AMD Instinct MI50
- 3x NVIDIA RTX 3090
- NVIDIA RTX Pro 6000
Компоненты
11 шт.Формат: обзор · для продвинутых · уверенность разметки 0.85 · источник