Бесплатный AI Пьюдипая: модель Ajax пока недоступна

Что в ролике
Вместо обещанной модели Ajax вы можете уже сейчас скачать Odysius — открытый self-hosted workspace, который подключается к существующим локальным движкам вроде Ollama или к удалённым API, поэтому ждать релиза для знакомства с интерфейсом не обязательно. Подвох не в подписке, а в том, что бесплатный софт оставляет на вас вычислительные расходы и настройку: на Mac Docker не пробрасывает GPU Metal, а на слабых машинах разумнее подключить облачный провайдер, чем покупать новое железо. Гипотетические 9 млрд параметров при 4 битах на параметр дают около 4,5 ГБ только весов, но реальный расход памяти выше из-за контекста, длинных промптов и вывода инструментов, поэтому перед покупкой стоит командой ollama ps посмотреть, где крутится текущая модель — на GPU, CPU или частично. Для честной проверки интерфейса автор советует взять несекретный документ, поручить извлечь дедлайны и черновик ответа, а затем сверить даты и ссылки, прогнав тот же запрос через привычный инструмент. Отдельно нужно проверить, действительно ли агент вызывает инструменты, а не просто болтает: локальные Ollama/V1 эндпоинты по умолчанию используют упрощённый текстовый формат вызовов, поэтому гладкий чат не гарантирует работу с документами и поиском. Приватность ограничена двумя вещами: куда уходят промпты и что агенту разрешено трогать; облачные API и внешние интеграции отправляют данные наружу, а администратор в self-hosted среде может выполнять shell-команды и управлять файлами. Штатный approval gate ставит на паузу опасные действия, но его можно отключить, и команды выполняются с правами пользователя ОС, поэтому начинать стоит с выключенными лишними правами и несекретными документами. Вывод такой: пока Ajax не вышел, менять ежедневный пайплайн или покупать железо не за чем; Odysius имеет смысл тестировать только ради самого интерфейса, если он экономит время на проверяемых задачах.
Практика
- Что получишь
- Понять, что сейчас реально можно скачать, как проверить Odysius без покупки железа и где заканчивается локальная приватность, прежде чем подключать почту и системные доступы.
- Первый шаг
- Скачать Odysius, указать в настройках адрес уже работающего локального Ollama или удалённого API и прогнать один несекретный документ с проверкой дат и ссылок.
- Цифры
- —9 млрд параметров — заявленный размер модели Ajax на странице проекта
- —около 4,5 ГБ — гипотетический вес только сырых весов при 4 битах на параметр
- —4 бита на параметр — допущение, из которого получена оценка веса
- Честно
- Автор канала в конце просит подписаться, поставить лайк и оставить комментарий, но платных продуктов и партнёрских ссылок в разборе нет. Сама модель Ajax на момент ролика не выпущена, поэтому оценить её нельзя; Odysius — открытый проект без подписки, но расходы на железо или API и администрирование ложатся на вас. Конкретные экраны настроек и команда ollama ps показаны на экране, поэтому для точного повторения их придётся смотреть в видео или официальной документации.
Если слова незнакомы — 6 терминов
- self-hostedпрограммное обеспечение, которое вы разворачиваете и обслуживаете на своём сервере или компьютере
- APIинтерфейс, через который программа обращается к модели или сервису по сети
- промпттекст-задание, которое отправляется модели
- контекстобъём текста и данных, которые модель удерживает в рабочей памяти во время запроса
- shell-командакоманда операционной системы, которая может читать, изменять и отправлять файлы
- approval gateвстроенная пауза, требующая подтверждения перед выполнением опасного действия
Связки из этого ролика
3 шт.- Ollama + Odysius
- Docker on macOS
- remote model API
Компоненты
3 шт.Формат: реакция на новость · для практикующих · уверенность разметки 0.92 · источник