AI Quest Q1: локальная 320B модель для кодинга без хайпа

Что в ролике
Для тех, кто ищет локальную замену Claude в кодинге, AI Quest Lab открыла веса AI Quest Q1 — mixture-of-experts-модель на 320B параметров, где на каждый токен активируется около 15B. Это не автодополнение, а агентный кодинг: модель читает файлы проекта, запускает терминальные команды и проверяет свои правки. В двух лабораторных кейсах Q1 нашла ошибку с лишними пробелами, из-за которой прошлые реплики перестали попадать в обучение, и отремонтировала падающее тестовое окружение, отделив инфраструктурные сбои от ошибок патчей. Архитектура разбивает экспертные слои на 256 экспертов и направляет каждый токен к восьми из них, поэтому хранить нужно все 320B весов, а не 15B. Для запуска издатель приводит конфигурации SGLang и vLLM с tensor parallel размером 8, то есть восемь GPU, а скачивание весов занимает около 650 ГБ; 4-битная квантизация даёт примерно 160 ГБ, но это лишь ориентир без учёта памяти сервера и растущего контекста. По собственной таблице лаборатории модель набирает 83,2 балла на Terminal Bench 2,1 против 89,1 у Claude Opus 5 при восьмичасовом лимите на задачу, что показывает потенциал, но не гарантирует замену. Чтобы получить рабочего агента, нужны inference-сервер, парсер под Q1 и шлюз для интерактивного клиента. Клиентом может быть Claude Code или Codex CLI, а чекпоинт остаётся текстовым и не умеет смотреть скриншоты.
Практика
- Что получишь
- Поймёте, чем Q1 отличается от плотных моделей, сколько GPU и памяти реально нужно для запуска, и как проверить её на своей кодовой базе без дорогой покупки железа.
- Первый шаг
- Если у вас уже есть мульти-GPU сервер, скачайте веса с Hugging Face, поднимите SGLang или vLLM с tensor parallel 8 и запустите ограниченный пилот на отдельном клоне проекта.
- Цифры
- —83,2 — балл Q1 на Terminal Bench 2,1, у Claude Opus 5 — 89,1 по таблице издателя
- —650 ГБ — размер файлов весов Q1 на Hugging Face
- —256 экспертов и 8 активных на токен — архитектура модели при 320B общих параметров
- —8 GPU — tensor parallel размер в примерах SGLang и vLLM
- Честно
- Автор не продаёт Q1, но в конце просит подписку и лайк; канал зарабатывает на охвате. Все результаты — лабораторные кейсы и собственные бенчмарки издателя, независимых замеров нет, а конфигурация на восемь GPU — пример, а не доказанный минимум. Чекпоинт текстовый, поэтому скриншоты UI-багов он не видит, и перед запуском на рабочем коде стоит проверить его в изолированной копии.
Если слова незнакомы — 10 терминов
- mixture-of-expertsархитектура, при которой для каждого токена работает только небольшая часть экспертов, а не вся сеть
- токенминимальный кусок текста или кода, который модель обрабатывает за один шаг
- параметрычисловые веса модели, хранящие выученные знания
- агентный кодингрежим, когда модель сама читает файлы, запускает команды и проверяет правки
- квантизациясжатие весов за счёт хранения чисел с меньшей точностью
- tensor parallelспособ разбить модель на части для одновременной работы нескольких GPU
- inference-серверпрограмма, которая исполняет модель и отвечает на запросы
- парсерпрограмма, которая разбирает текстовый ответ модели и распознаёт команды
- шлюзпромежуточный сервис, который превращает запросы модели в формат, понятный клиенту
- чекпоинтсохранённый файл весов модели, а не готовый кодинг-агент
Компоненты
5 шт.Формат: обзор · для продвинутых · уверенность разметки 0.9 · источник