Дообучение Qwen без своей инфраструктуры: обзор Crusoe

Что в ролике
Если вы делаете AI-приложения или агентов и вам нужна модель под конкретную задачу, дообучение открытых моделей теперь можно провести без своей инфраструктуры — автор показывает это на сервисе Crusoe. Он берёт модель Qwen как базовую и загружает в Crusoe набор из примерно 300 JSON-примеров проверки фрилансерских договоров: системный промпт, текст контракта и ожидаемые ответы про оплату в течение 30 дней, максимум два раунда правок и передачу прав после полной оплаты. В дашборде запускается serverless-дообучение методом LoRA, которое обучает компактный адаптер вместо целой модели, а сервис использует свои GPU, показывает графики обучения и даёт прогноз стоимости заранее. Обучение заняло несколько минут и обошлось в несколько долларов. Затем автор скачивает веса адаптера с чекпоинта и запускает модель локально на Mac через Python-сервис и MLX, чтобы приложение могло обращаться к ней по API. В демо на реальном договоре дообученная Qwen заметила, что «полная оплата booking invoice» — это лишь 25-процентный депозит, а не полная оплата всех работ, тогда как исходная модель ошиблась. Та же модель через Crusoe может быть развёрнута на их managed inference или в self-serve деплое, либо выгружена для собственного хостинга.
Практика
- Что получишь
- Сможете дообучать открытую модель под свои примеры и подключать её к приложению через API: локально или на хостинге Crusoe.
- Первый шаг
- Зарегистрироваться в Crusoe, загрузить набор JSON-примеров с системным промптом и ожидаемыми ответами и запустить serverless-дообучение базовой модели Qwen.
- Цифры
- —300 — столько JSON-примеров проверки договоров автор загрузил для дообучения Qwen
- —30 — дней, максимальный срок оплаты в требованиях автора к договору
- —2 — максимальное число раундов правок, на котором исходная Qwen ошибалась, а дообученная дала верный ответ
- —25% — размер депозита booking invoice, который исходная модель приняла за полную оплату, а дообученная распознала как неполную
- Честно
- Видео спонсировано Crusoe, и вся демонстрация построена на их платформе со ссылкой в описании. Набор из 300 примеров договоров автор не выкладывает — его придётся собрать самому по похожей JSON-схеме. Код приложения и Python-сервиса показан на экране фрагментами, а не отдельным репозиторием, поэтому для локального запуска нужно будет восстанавливать детали по видео.
Если слова незнакомы — 5 терминов
- дообучение (fine-tuning)дополнительное обучение готовой модели на своих примерах под конкретную задачу
- LoRAметод дообучения, который тренирует компактный адаптер вместо всей модели, чтобы было дешевле и быстрее
- адаптернебольшой набор весов, который подключается к базовой модели и меняет её поведение
- инференс (inference)запуск обученной модели для получения ответов на реальные запросы
- промпттекст-инструкция, которую передают модели вместе с данными
Связки из этого ролика
3 шт.- Qwen + Crusoe LoRA fine-tuning
- Python + MLX local inference
- JavaScript frontend + completions API
Компоненты
11 шт.Формат: пошаговый урок · для практикующих · уверенность разметки 0.88 · источник