Тесты MiniCPM-V 4.7: зрение для iPhone за 3 ГБ

Что в ролике
Если вам нужна локальная vision-модель для документов, графиков, скриншотов кода и коротких видео, MiniCPM-V 4.7 выпущена в двух открытых размерах: 1B (фактически 1,3 млрд параметров) и MoE-версия 35B A3B, где на токен работает только около 3 млрд параметров, а контекст у обеих 256k. На 11 тестах 35B A3B набрал около 9,5 балла из 11, уступив Qwen3-VL-8B Flash Next примерно 0,5 балла, а MiniCPM-V 4.7 1B — около 8 баллов против 7 у прошлой 4.6. Чек со шрифтом и шумом 35B распознал идеально, а 1B перепутал последние цифры карты (417 вместо 4417), вернул цены строками и оставил «2x» в названиях позиций; старая 4.6 на дефолтных настройках сдвинула строки заказа, но суммы сошлись. На мелком моноширинном тексте все четыре модели молча исправили ловушку с хешем, где строчная l стала единицей, поэтому оба хеша выглядели одинаково — это тихий баг для серийников и ключей. Код из скриншота с off-by-one багом 35B A3B объяснил за 2,3 секунды и дал верный однострочный фикс, а 1B и старая 4.6 уходили в цикл «wait, код неправильный» и не дали ответа. Сюрприз был в настройке сжатия изображений: по умолчанию 4.7 использует 4x (тот же документ стоил 2292 токена), а 4.6 — 16x (600 токенов), поэтому после выравнивания настроек старая и новая 1B почти сравнялись, а заметный выигрыш новинки проявился в дешёвом 16x-режиме. Скорость через API у 1B — 430–465 токенов/с, у 35B A3B около 150, а локально на iPad Pro M4 с 16 ГБ команда OpenBMB получила 17–19 токенов/с благодаря подгрузке нужных экспертов и проверке черновых токенов.
Практика
- Что получишь
- Понятное сравнение двух моделей MiniCPM-V 4.7 с прошлой версией и Qwen, включая влияние настроек сжатия, чтобы решить, ставить ли 1B для скорости или 35B для точности, и на каком железе они реально заведутся.
- Первый шаг
- Скачайте веса MiniCPM-V 4.7 1B с Hugging Face и запустите на своём ноутбуке, намеренно выставив сжатие 16x, чтобы проверить скорость и качество на своём документе или скриншоте.
- Цифры
- —17–19 токенов в секунду — заявленная скорость 35B A3B на iPad Pro M4 с 16 ГБ в локальном тесте OpenBMB
- —430–465 токенов в секунду — скорость MiniCPM-V 4.7 1B через облачный API в трёх прогонах
- —0,5 балла — разрыв между 35B A3B и Qwen3-VL-8B Flash Next в авторской оценке из 11 тестов
- —2292 против 600 токенов — во столько обошёлся один и тот же документ в 4x у 4.7 и 16x у 4.6
- Честно
- Автор не рекламирует сторонний продукт, но в конце продвигает собственное членство канала (member-exclusive videos, priority replies, join button) и просит лайк и подписку, а ссылки на Hugging Face и ModelBest ведут в описание. Цифры о запуске на iPhone и iPad заявлены командой OpenBMB и получены на iPad Pro M4 с 16 ГБ, а не на устройстве с 3 ГБ памяти, поэтому на вашем железе скорость может отличаться. Точные команды API, значения настроек сжатия и reasoning effort видны только на экране, в пересказе их недостаточно для повторения теста.
Если слова незнакомы — 5 терминов
- MoE (mixture of experts)архитектура, где при каждом ответе работает лишь часть параметров модели, а не все сразу
- токенминимальная единица текста или изображения, которую обрабатывает модель
- контекст 256kсколько токенов модель может учитывать в одном запросе — здесь 256 тысяч
- 4x/16xрежимы сжатия изображения в токены: 16x использует примерно вчетверо меньше токенов и работает быстрее, но чуть грубее
- off-by-oneклассическая ошибка в коде на единицу, например цикл выполняет на шаг меньше
Компоненты
5 шт.Формат: обзор · для продвинутых · уверенность разметки 0.9 · источник