К содержимому
Дайджест

Модель Whistle: распознавание речи в 16,9 МБ

NeuralNine·21 октября 2026·7:44
текст даёт основное можно повторить промо пошагово
Открыть на YouTube
Практический обзор крошечной модели распознавания речи Whistle для тех, кто хочет запускать транскрибацию офлайн на телефоне или встраиваемых устройствах.

Что в ролике

Модель Whistle от Cactus Compute занимает 16,9 МБ и предназначена для распознавания речи на устройствах без интернета: телефонах, Raspberry Pi, носимых устройствах и микроконтроллерах. Автор показывает, как установить пакет cactus-needle через UV и запустить распознавание с микрофона в терминале. По качеству модель сопоставима с Whisper Base и Moonshine Tiny V2, при этом версия Moonshine в квантованном виде весит 34,4 МБ, а в 16-битном виде — 109 МБ. Модель использует квантование 2–4 бита, а файл whistle.cac содержит только веса, для работы нужна библиотека libneedle.so. Для запуска на телефоне автор собрал Flutter-приложение, положил whistle.kext в assets и установил APK на свой телефон. Демонстрация на телефоне показывает, что модель распознаёт быструю речь без интернета и внешних API. Автор подчёркивает, что Whistle не лучший и не самый быстрый, но самый портативный вариант для офлайн-транскрибации.

Практика

Что получишь
Понимание, как встроить лёгкую модель распознавания речи в своё приложение и запускать её офлайн без API и платы за сервисы.
Первый шаг
Установить пакет cactus-needle с зависимостью mic через UV и запустить команду uv run needle_whistle_playground, чтобы проверить модель с микрофона.
Цифры
  • —16,9 МБ — размер файла модели Whistle
  • —34,4 МБ — размер квантованной версии Moonshine Tiny V2
  • —109 МБ — размер 16-битной версии Moonshine Tiny V2
  • —34 МБ — общий размер собранного Flutter-приложения с моделью внутри APK
Честно
Автор в конце рекламирует свои услуги фрилансера и консультанта на личном сайте, а также просит подписку и лайки. Полного туториала по Flutter нет: показаны только структура проекта и ключевые строки кода, APK не выложен для скачивания. Название с 'Fastest' вводит в заблуждение — сам автор уточняет, что модель не самая быстрая, а самая портативная.
Если слова незнакомы — 5 терминов

Связки из этого ролика

2 шт.

Компоненты

7 шт.

Формат: пошаговый урок · для практикующих · уверенность разметки 0.85 · источник