К содержимому
Дайджест

Swift: ускоренная Qwen 27B с меньшими раздумьями

The Stack·23 сентября 2026·16:22
можно прочитать выбрать инструмент
Открыть на YouTube
Разбор версии Swift от Yuki’s AI для тех, кто запускает Qwen 3,8 27B локально и хочет понять, стоит ли менять модель ради скорости.

Что в ролике

Если вы запускали Qwen 3,8 27B от Alibaba локально, вы наверняка ждали минутами, пока модель пишет скрытые заметки перед ответом. Команда Yuki’s AI дообучила её в версию Swift: на научном бенчмарке медианное число thinking-токенов падает на 58%, а точность — меньше чем на один пункт. На практике экономия скромнее: по собственным тестам создателей общий объём размышлений снижается на 24–41% в зависимости от задачи, а независимые замеры на реальном железе показали ответы быстрее на пятую часть для математики и на треть для кода. Ускорение не бесплатно: на олимпиадной математике Swift теряет почти 5 баллов на AIME и больше 3 на Harvard-MIT, а в бытовых отчётах может сжимать ответ так, что теряется смысл. Вместо новой модели можно просто снизить в оригинальной Qwen настройку reasoning effort со «extra high» до medium или low — это режет ожидание сильнее, но точность падает заметнее. По железу обе версии одинаковы: 4-битный файл занимает около 18 ГБ и рекомендуется для карт на 24 ГБ, а лицензия Swift разрешает бизнес-использование только до выручки в 1 млн долларов в год. Вердикт автора: Swift стоит попробовать тем, кто уже гоняет Qwen на максимальном reasoning для кода и обычных вопросов, а для олимпиадной математики, длинных отчётов и крупных компаний лучше остаться на оригинале.

Практика

Что получишь
Поймёте, насколько Swift реально экономит время и качество по сравнению с оригинальной Qwen, и в каких случаях её стоит ставить, а в каких — просто снизить reasoning effort.
Первый шаг
Сначала проверьте, на каком reasoning effort у вас работает оригинальная Qwen, и попробуйте medium или low — это бесплатно и без установки Swift.
Цифры
  • —58% — медианное сокращение thinking-токенов на научном бенчмарке по данным Yuki’s AI
  • —24–41% — общее снижение объёма размышлений в тестах создателей, а не 58% на всех задачах
  • —18 ГБ — размер популярного 4-битного файла Swift, рекомендуемого для карт на 24 ГБ
  • —1 млн долларов — порог годовой выручки, до которого лицензия Swift разрешает бизнес-использование без отдельного договора
Честно
Автор не рекламирует сторонние продукты, но в середине ролика просит подписаться на канал. Все главные заявления о скорости и качестве взяты у создателей Swift, а независимые замеры сообщества единичны; перед переходом стоит прогнать модель на своих задачах. Точные настройки и скрипты для воспроизведения тестов в пересказе не приводятся.
Если слова незнакомы — 4 терминов

Компоненты

6 шт.

Формат: обзор · для практикующих · уверенность разметки 0.9 · источник