Mac Mini M6 16 ГБ: пять задач для локальной Gemma 4

Что в ролике
Автор на Mac Mini M6 16 ГБ запускает в LM Studio модель Gemma 4 12B MLX 4-bit со зрением, веса занимают 6,77 ГБ, а скорость обработки запроса на M6 в 4,5 раза выше, чем на M4, и декодирование на 30–40% быстрее. Первый тест — извлечение данных из трёх PNG-фактур на две, пять и десять позиций: модель верно вытащила номера, даты, суммы и НДС, но на десятом счёте в одном из прогонов перепутала номер 2609 и 2605. Второй тест — после выдачи доступа к файловой системе по MCP модель собрала одностраничное HTML-приложение с бэкендом, который отправляет снимки фактур в локальную Gemma через LM Studio; оно заработало за пять минут и вернуло правильные суммы, но повторило ту же ошибку с номером на десятом счёте. Третий тест — чат с PDF: модель за 40 секунд дала пятипунктовый конспект и сообщила, что бюджет переезда 12 000 долларов, в документе упомянуты 12 человек, но названы только четверо. Четвёртый тест — веб-поиск через Brave Search: нашёл анонс OpenAI DevDay и постоянных агентов, но сессия раздулась до 73 000 токенов при лимите 19 500 и ушла в цикл вызовов. Пятый тест — сортировка шести PDF-фактур на оплаченные и неоплаченные: LM Studio и среда разработки Pi увидели файлы, но не смогли прочитать сжатые PDF, поэтому тест провален. Итог: локальная модель закрывает извлечение структурированных данных, конспекты и простую генерацию кода, но упирается в контекст и отсутствие инструментов для чтения PDF.
Практика
- Что получишь
- Понять, какие задачи локальная Gemma 4 12B на 16 ГБ Mac Mini закрывает стабильно, а какие упираются в контекст и инструменты, и оценить, стоит ли строить на этом рабочую рутину.
- Первый шаг
- Скачать бесплатный LM Studio, загрузить Gemma 4 12B MLX 4-bit и прогнать одну PNG-фактуру через извлечение данных, чтобы сравнить скорость и точность со своим сценарием.
- Цифры
- —6,77 ГБ — столько занимают веса Gemma 4 12B MLX 4-bit только при загрузке модели
- —4,5 раза — настолько быстрее обработка запроса на M6, чем на M4, по замеру автора
- —40 секунд — столько занял ответ с пятипунктовым пересказом PDF
- —73 000 токенов — до такого объёма разрослась веб-сессия при лимите 19 500 токенов
- Честно
- Ролик не содержит прямой рекламы, но точные промпты, настройки MCP и адрес локального эндпоинта видны только на экране, в транскрипте их нет. Автор сам признаёт: тест с PDF-сортировкой провалился, а ошибка в номере счёта повторялась и за кадром. При веб-поиске используется бесплатный тариф Brave Search API, из-за чего часть запросов падает с ошибкой «слишком много запросов».
Если слова незнакомы — 4 терминов
- MCPпротокол, через который модели дают доступ к файловой системе и веб-поиску
- MLXформат моделей, оптимизированный под чипы Apple Silicon
- 4-bitсжатие весов модели для меньшего расхода памяти
- токенминимальная единица текста, которую модель обрабатывает
Связки из этого ролика
3 шт.- LM Studio + Gemma 4 12B MLX
- MCP filesystem
- Brave Search API
Компоненты
8 шт.Формат: пошаговый урок · для практикующих · уверенность разметки 0.85 · источник