Локальный Hermes agent на Mac Mini: память, поиск и Telegram

Что в ролике
Вы настраиваете Hermes agent на Mac Mini 16 ГБ M6 и с самого начала подключаете локальную модель через LM Studio, чтобы не отправлять личные файлы в облако. В LM Studio включается режим разработчика, скачивается Gemma 4 12B в 4-битной MLX-версии на 6,77 ГБ и выставляется контекст минимум 64 000 токенов, после чего URL с /v1 вставляется в настройки Hermes. Первое сообщение модель обрабатывает медленно, но дальше отвечает быстрее. Для общей памяти автор ставит Honcho через облако: плагин даёт $10 кредита по коду Bart, при этом воспоминания и выводы о вас подтягиваются в сессии на разных инструментах. Поиск подключается через Brave Search, бесплатный тариф даёт $5 или 1000 запросов в месяц, и агент по команде находит свежие новости за сутки. Затем Hermes связывается с Telegram: создаётся бот у BotFather, ваш ID берётся у userinfobot и добавляется в разрешённые, чтобы посторонние не могли командовать агентом. В конце автор просит настроить ежедневную cron-задачу на 9 утра, локальная модель сначала сбивается и требует напоминания, что она уже в Telegram, но в итоге ставит расписание. Для работы 24/7 он отключает сон Mac Mini и добавляет команду автозапуска Hermes после перезагрузки.
Практика
- Что получишь
- Сможете поднять Hermes agent на Mac Mini с локальной моделью, подключить ему общую память, веб-поиск, Telegram и ежедневные задачи без отправки файлов в облако.
- Первый шаг
- Начните с установки Hermes agent через Mac-приложение и LM Studio, затем скачайте Gemma 4 12B в MLX-версии и включите режим разработчика.
- Цифры
- —64 000 токенов — минимальный требуемый размер контекста для Hermes agent
- —6,77 ГБ — размер модели Gemma 4 12B в 4-битном MLX-варианте
- —$5 или 1000 запросов в месяц — бесплатный тариф Brave Search
- —9:00 — время ежедневной доставки AI-новостей в Telegram
- Честно
- Автор рекламирует свою школу и курс по AI-видеомонтажу в середине ролика; ссылка на Honcho — реферальная, по коду Bart дают $10 кредита на облачную память. Все команды для отключения сна и автозапуска лежат в первом комментарии под видео, а часть настроек (интерфейсы, ввод ключей) видна только на экране, поэтому без перемотки повторить сложно.
Если слова незнакомы — 4 терминов
- MLXформат моделей, оптимизированный для процессоров Apple Silicon
- контекстобъём разговора, который модель помнит и обрабатывает за один раз
- токеныминимальные кусочки текста, на которые делится запрос для модели
- cron-задачакоманда, запускающая действие по расписанию
Понадобится экран
Часть информации есть только на экране (код в терминале). Открыть на YouTube с 11:00.
Связки из этого ролика
4 шт.- Hermes + LM Studio
- Hermes + Telegram
- Hermes + Honcho
- Hermes + Brave Search
Компоненты
10 шт.Цитаты-доказательства
дословно из субтитровФормат: пошаговый урок · для практикующих · уверенность разметки 0.8 · источник