Swift: ускоренная Qwen 27B с меньшими раздумьями

Что в ролике
Если вы запускали Qwen 3,8 27B от Alibaba локально, вы наверняка ждали минутами, пока модель пишет скрытые заметки перед ответом. Команда Yuki’s AI дообучила её в версию Swift: на научном бенчмарке медианное число thinking-токенов падает на 58%, а точность — меньше чем на один пункт. На практике экономия скромнее: по собственным тестам создателей общий объём размышлений снижается на 24–41% в зависимости от задачи, а независимые замеры на реальном железе показали ответы быстрее на пятую часть для математики и на треть для кода. Ускорение не бесплатно: на олимпиадной математике Swift теряет почти 5 баллов на AIME и больше 3 на Harvard-MIT, а в бытовых отчётах может сжимать ответ так, что теряется смысл. Вместо новой модели можно просто снизить в оригинальной Qwen настройку reasoning effort со «extra high» до medium или low — это режет ожидание сильнее, но точность падает заметнее. По железу обе версии одинаковы: 4-битный файл занимает около 18 ГБ и рекомендуется для карт на 24 ГБ, а лицензия Swift разрешает бизнес-использование только до выручки в 1 млн долларов в год. Вердикт автора: Swift стоит попробовать тем, кто уже гоняет Qwen на максимальном reasoning для кода и обычных вопросов, а для олимпиадной математики, длинных отчётов и крупных компаний лучше остаться на оригинале.
Практика
- Что получишь
- Поймёте, насколько Swift реально экономит время и качество по сравнению с оригинальной Qwen, и в каких случаях её стоит ставить, а в каких — просто снизить reasoning effort.
- Первый шаг
- Сначала проверьте, на каком reasoning effort у вас работает оригинальная Qwen, и попробуйте medium или low — это бесплатно и без установки Swift.
- Цифры
- —58% — медианное сокращение thinking-токенов на научном бенчмарке по данным Yuki’s AI
- —24–41% — общее снижение объёма размышлений в тестах создателей, а не 58% на всех задачах
- —18 ГБ — размер популярного 4-битного файла Swift, рекомендуемого для карт на 24 ГБ
- —1 млн долларов — порог годовой выручки, до которого лицензия Swift разрешает бизнес-использование без отдельного договора
- Честно
- Автор не рекламирует сторонние продукты, но в середине ролика просит подписаться на канал. Все главные заявления о скорости и качестве взяты у создателей Swift, а независимые замеры сообщества единичны; перед переходом стоит прогнать модель на своих задачах. Точные настройки и скрипты для воспроизведения тестов в пересказе не приводятся.
Если слова незнакомы — 4 терминов
- thinking-токеныскрытые рабочие заметки, которые модель пишет сама себе перед ответом
- reasoning effortнастройка в Qwen, управляющая объёмом размышлений (extra high, medium, low)
- 4-битный файлсжатая копия модели для домашних видеокарт, занимает около 18 ГБ
- бенчмаркстандартизированный тест для сравнения моделей
Компоненты
6 шт.Формат: обзор · для практикующих · уверенность разметки 0.9 · источник