Три версии Qwen3.8-27B: быстрее и почти так же точно

Что в ролике
Если вы запускаете Qwen3.8-27B локально, настройка reasoning effort (low/medium/x-high) и токены мышления напрямую превращаются в секунды ожидания, поэтому автор сравнивает три дообученные версии, которые учат модель меньше размышлять при той же точности. Thinking Cap от Bottlecap AI (сооснователь — Томас Миколов, известный по word2vec) сделан консервативно: в среднем на 12 бенчмарках он выдаёт на 37% меньше токенов мышления, точность падает с 86,6 до 85,8%, а в тесте на извлечение из длинного контекста точность даже растёт. Swift 1.5 от Yucus AI агрессивнее: до 58,5% меньше токенов, причём на LiveCodeBench точность выросла с 77% до 81,7%, а токены сократились с 11 200 до 8 400. QwenPi — это Qwen3.8-27B, дообученный с RL и supervised fine-tuning под минималистичного кодинг-агента PI, то есть под конкретный harness с ограниченным набором инструментов; его цель не укорачивать режим x-high, а сделать полезными режимы low и medium. На Terminal Bench medium-режим QwenPi совпадает по точности с x-high базовой модели и тратит на 41% меньше выходных токенов. В демонстрации Thinking Cap чаще всего финишировал первым, Swift 1.5 — вторым, QwenPi обгонял на кодинг-задачах, а базовая модель стабильно отставала, хотя на генерации SVG порядок менялся. Все три дообученные версии экономят токены, но каждая хороша в своей нише, поэтому под свою задачу их стоит пробовать отдельно.
Практика
- Что получишь
- Понимание, чем отличаются три популярных «ускорителя» Qwen3.8-27B, какие у них лицензии и на каких задачах они реально экономят токены без заметной потери качества.
- Первый шаг
- Скачать одну из моделей с Hugging Face (например, Thinking Cap или Swift 1.5) и прогнать на своих типовых задачах, сравнив время ответа и точность с базовой Qwen3.8-27B.
- Цифры
- —37% — на столько меньше токенов мышления в среднем у Thinking Cap на 12 бенчмарках (точность 85,8% против 86,6% у базы)
- —58,5% — максимальное заявленное сокращение токенов у Swift 1.5
- —41% — на столько меньше выходных токенов у QwenPi в medium по сравнению с x-high базы на Terminal Bench
- —8 400 против 11 200 — число токенов у Swift 1.5 и базовой модели на LiveCodeBench при точности 81,7% и 77%
- Честно
- Ролик записан на оборудовании, предоставленном Dell, — это спонсорство вычислительных ресурсов. Для повторения нужны сами модели: Thinking Cap и Swift имеют ограниченные лицензии (у Thinking Cap — personal/small business, у Swift — бесплатно до 1 млн долларов выручки, дальше нужно договариваться), QwenPi — Apache 2, но проверен только внутри агента PI. Демонстрация не оптимизирована под конкретное железо, поэтому абсолютные времена на вашей машине будут другими.
Если слова незнакомы — 5 терминов
- токены мышленияскрытые промежуточные рассуждения модели, которые занимают время и стоят денег, но не видны пользователю
- дообучение (fine-tune)дополнительное обучение готовой модели на специально подобранных данных или с определённой целью
- reasoning effortнастройка в Qwen3.8-27B (low/medium/x-high), которая задаёт, насколько длинными будут рассуждения
- harnessобвязка агента — набор инструментов и системный промпт, внутри которого работает модель
- RLобучение с подкреплением, где модель поощряют за нужное поведение, например за короткие рассуждения
Связки из этого ролика
3 шт.- Qwen 3.8 27B + Thinking Cap
- Qwen 3.8 27B + Swift 1.5
- Qwen 3.8 27B + QwenPi + Pieme
Компоненты
10 шт.Формат: обзор · для продвинутых · уверенность разметки 0.9 · источник