Эффективные модели, Jev и лунная съёмка IBM/NASA

Что в ролике
Поток релизов недели — Grok, Claude Opus и GPT-6 Sol Luna — это не скачок интеллекта, а борьба за снижение расхода токенов и цены. Новые модели меньше по числу параметров, но решают те же задачи, что флагманы, и Claude Opus сравнивают по возможностям с Fable, а GPT-6 Sol Luna называют более эффективной версией предыдущей модели. Токен-эффективность не равна вычислительной эффективности: реальные размеры моделей и стоимость инференса на токен не раскрыты, поэтому низкие цены могут субсидироваться венчурным капиталом до выхода компаний на биржу. Следующая фаза — системный интеллект, где модель лишь один компонент агента рядом с памятью, инструментами, браузером и доступом к корпоративным системам, а оптимизации вроде квантования, разрежённости, управления KV-кэшем и спекулятивного декодирования определяют, можно ли продукт экономически развернуть. Jev от TypeSafe — это модель system 1 для задач-классификаций в коде и процессах: вместо связного текста она выдаёт типизированные решения и вероятности параллельно, что убирает последовательную генерацию токенов и ускоряет ответ. Её обучают reinforcement learning для калиброванных решений, чтобы уверенность в ответе совпадала с фактической точностью, но проверять её нужно на своих данных, потому что открытые бенчмарки показывают лишь совпадение с ответами frontier-моделей, а не с реальной истиной. IBM и NASA выложили модели компьютерного зрения для лунных снимков: они считают кратеры и находят лёд, что ускоряет датировку поверхности и поиск ресурсов, а фундаментальную модель учат один раз на разнородных данных и затем адаптируют под разные научные вопросы.
Практика
- Что получишь
- Понимание, чем свежие релизы отличаются по реальной стоимости и архитектуре, в каких задачах пробовать Jev вместо обычного LLM и как лунные модели IBM/NASA применяются в науке.
- Первый шаг
- Прочитать анонс TypeSafe и прогнать Jev на одной задаче, где нужен выбор из ограниченного набора вариантов, чтобы проверить калибровку на своих данных.
- Цифры
- —40 млн просмотров — столько набрал пост о релизе Jev у аккаунта с 1500 подписчиков
- —5 кликов — за столько Jev и лучшие LLM доходят от одной статьи Википедии до другой в игре
- —субсекундный ответ Jev против нескольких секунд у LLM с цепочкой рассуждений в той же игре
- Честно
- Это фирменный подкаст IBM, и часть контента продвигает собственные технологии: Гейб упоминает модель программирования Malaya, а тема NASA — коллаборация IBM. Готовых инструкций или кода для повторения в выпуске нет, демонстрации Jev и лунных моделей видны только на экране. Ссылки на материалы Jev в пересказе не заменяют собственного теста калибровки.
Если слова незнакомы — 6 терминов
- LLMбольшая языковая модель, которая генерирует текст по одному токену за раз
- токенминимальная единица текста, за которую модели начисляют стоимость и которая определяет расход вычислительных ресурсов
- KV-кэшкэш пар ключ-значение, который хранит вычисленные представления предыдущих токенов, чтобы не пересчитывать их на каждом шаге генерации
- калибровкасоответствие между уверенностью модели в ответе и фактической долей правильных ответов
- фундаментальная модельмодель, обученная на большом массиве данных и пригодная для дообучения под разные задачи
- инференспроцесс получения ответа от уже обученной модели, в отличие от обучения
Компоненты
4 шт.Формат: реакция на новость · для практикующих · уверенность разметки 0.8 · источник