Локальный Джарвис на Mac: модели, память и свой голос

Что в ролике
Чтобы собрать локального ИИ-ассистента вроде Джарвиса, автор показывает на своём Mac, как он переключает «мозг» между облачной Opus 5.5 и локальными моделями Qwen 3.5 на 9 млрд параметров или Gemma 4 на 12 млрд параметров прямо голосом. Основная идея — всё работает офлайн: локальная модель, локальный голос через Voice Studio и локальная память по файлам, без подписки и API-счетов. Для выбора железа автор советует Mac Mini или Mac Studio и объясняет правило: на каждый миллиард параметров нужно примерно 0,6 ГБ унифицированной памяти. На Mac Mini с 32 ГБ комфортно идут Qwen 3.8 на 27 млрд параметров, Gemma 4 на 26 млрд и GPT-OSS на 20 млрд, а для Qwen 3.8 Flash на 125 млрд нужен Mac Studio с 256 ГБ. Модели ставятся через Ollama одной командой вида ollama pull, а голос клонируется в бесплатном опенсорсном Voice Studio. Готовый промпт-пак и гайды автор раздаёт бесплатно в сообществе AI Workshop Light, а собранный Jarvis со всеми инструментами продаёт в платном AI Workshop.
Практика
- Что получишь
- Понимание, какое железо и сколько unified memory нужно под модель нужного размера, и пошаговую инструкцию с промптами для сборки своего локального ассистента.
- Первый шаг
- Скачать бесплатный промпт-пак из сообщества AI Workshop Light и установить Ollama, затем загрузить модель под свою машину.
- Цифры
- —32 ГБ — столько унифицированной памяти у Mac Mini, хватает для моделей до 27 млрд параметров
- —256 ГБ — максимум unified memory у Mac Studio, позволяет запускать Qwen 3.8 Flash на 125 млрд параметров
- —0,6 ГБ на 1 млрд параметров — правило для оценки нужной памяти под модель
- —9 млрд параметров — локальная модель Qwen 3.5, на которую Джарвис переключается по умолчанию
- Честно
- Промпт-пак бесплатный, но для доступа нужно вступить в бесплатное сообщество AI Workshop Light. Готовый Jarvis с интерфейсом и всеми инструментами — только в платном сообществе AI Workshop, автор говорит, что собирал его 3 месяца. В демо при работе с файлами использовалась облачная Opus 5.5, а не локальная модель, хотя, по словам автора, это легко повторить на локальных моделях.
Если слова незнакомы — 6 терминов
- LLMбольшая языковая модель, которая генерирует осмысленные ответы
- унифицированная памятьобщая память Mac, которую одновременно используют процессор, графический чип и нейронный движок
- параметрычисловые веса модели, определяющие её размер и способности
- APIспособ для программы обращаться к облачному сервису по запросу
- Ollamaпрограмма для скачивания и запуска локальных моделей одной командой
- Voice Studioопенсорсная платформа для клонирования и синтеза голоса
Связки из этого ролика
3 шт.- Mac Mini + Ollama + Qwen 3.5 9B
- Mac Studio + Ollama + Qwen 3.8 Flash 125B
- Ollama + Voice Studio
Компоненты
4 шт.Формат: пошаговый урок · для практикующих · уверенность разметки 0.9 · источник