Mac Mini для локального AI: что купить на самом деле

Что в ролике
Многие присматриваются к Mac Mini как к машине для локального запуска LLM, но базовая модель за $899 тут не годится: полезные модели на 16 ГБ просто не загружаются. Чтобы запускать серьёзные open weights модели, нужен M5 Pro с 64 ГБ за $2699, потому что Apple берёт ровно $25 за гигабайт памяти во всей линейке, а память распаяна. Важна не только ёмкость, но и пропускная способность памяти: M5 Pro даёт 307 ГБ/с против 153 ГБ/с у M6, и генерация токенов упирается именно в этот показатель. Даже 64 ГБ быстро упираются в потолок: модель GPT O 120B в 4-битном формате требует около 66 ГБ, а контекст на 128 тысяч токенов добавляет ещё 40 ГБ — поэтому 128 ГБ стоят уже от $4999 у Mac Studio. Подорожала не только Apple: из-за дефицита памяти Framework Desktop вырос с $1999 до $3449, а RTX 5090 стоит на рынке больше $4000. Перед покупкой стоит сделать два бесплатных шага: сменить инференс-сервер, потому что стандартный теряет время на prefill (у одного пользователя prefill упал с 49 до 1,7 секунды), и попробовать разреженные модели вроде 35B MoE, которые читают лишь 3 млрд параметров на токен и работают впятеро быстрее плотной 27B. Итог: если нужна модель на 50–60 ГБ, берите M5 Pro на 64 ГБ, а большинству хватит M6 на 32 ГБ за $1299, причём выгоднее апгрейдить 24-гигабайтную базу до 32, чем 16-гигабайтную. Перед крупной тратой лучше арендовать нужную модель в облаке на месяц, потому что один владелец 64-гигабайтного M5 Pro вернулся на подписку, посчитав локальный AI не стоящим тепла и медлительности.
Практика
- Что получишь
- Понять, какая конфигурация Mac Mini реально нужна под локальные LLM и как бесплатно ускорить инференс перед покупкой.
- Первый шаг
- Сменить стандартный инференс-сервер на более быстрый и попробовать разреженную модель на своём текущем железе.
- Цифры
- —$25 за гигабайт — столько Apple берёт за апгрейд памяти во всей линейке Mac
- —$2699 — цена Mac Mini M5 Pro с 64 ГБ, которую рекомендуют для серьёзных open weights моделей
- —307 против 153 ГБ/с — во столько раз пропускная способность памяти M5 Pro выше, чем у M6
- —$1299 — цена Mac Mini M6 с 32 ГБ, которую автор считает оптимальной для большинства
- Честно
- Автор не рекламирует конкретные продукты и не даёт партнёрских ссылок, но не называет, какой именно инференс-сервер нужно поставить вместо стандартного — только показывает эффект от смены на чужих бенчмарках. Все цены и бенчмарки взяты из его расчётов и сообщений пользователей, собственных тестов в видео нет. В конце он просит лайк и комментарий.
Если слова незнакомы — 6 терминов
- LLMбольшая языковая модель, которая генерирует текст
- open weightsмодель с открытыми весами, которую можно скачать и запустить на своём компьютере
- инференспроцесс, когда модель читает запрос и выдаёт ответ
- prefillэтап перед первым словом ответа, когда модель обрабатывает весь контекст запроса
- MoEархитектура смеси экспертов, при которой на каждый токен активна лишь малая часть параметров
- пропускная способность памятисколько данных чип может прочитать из памяти за секунду, влияет на скорость генерации
Связки из этого ролика
3 шт.- M6 Mac Mini 32GB
- M5 Pro Mac Mini 64GB
- Mac Studio M5 Max 128GB
Компоненты
11 шт.Формат: мнение · для практикующих · уверенность разметки 0.8 · источник