Claude и гонка без арбитра: отключение Fable и 3 навыка

Что в ролике
Если вы ежедневно пользуетесь Claude и агентами на его основе, отключение самой мощной модели по требованию правительства США — знак, что гонка ИИ идёт без арбитра и касается не только лабораторий. Правительство обязало Anthropic отключить Fable и Mythos на 18 дней после джейлбрейка, который показал, как модель находит уязвимости в софте, хотя компания заявила, что найденные ошибки были незначительными и уже известными. За это время Mythos, версия с меньшими ограничениями, нашла тысячи ранее неизвестных уязвимостей, включая 27-летний баг в OpenBSD и 16-летний в FFmpeg, которые автоматические тесты пропускали 5 миллионов раз. После обучения нового классификатора безопасности, блокирующего эту технику в более чем 99% случаев, правительство сняло запрет, но китайские лаборатории и конкуренты не останавливались. Автор делает три прогноза: государства начнут финансировать ИИ-грамотность как базовую инфраструктуру, кибербезопасность станет крупнейшим бенефициаром ИИ с ростом рабочих мест аналитиков на 29% к 2034 году, а контроль над ИИ превратится в мешанину из отслеживания чипов, облачных логов и инспекций без глобальной паузы. Он также приводит твит уволившегося из Anthropic Джейкоба Коксена с предупреждением о гонке к сверхинтеллекту и ответ Ивена Хабингера, где тот оценивает вероятность гибели человечества от ИИ выше 10% в ближайшие десять лет. Практическая часть — три навыка: сначала находить реальную боль (пример медспа, где утечка была не в лидах, а в неявках на приёмы), затем контролировать систему через read-only доступ, черновики и логи, и наконец брать на себя ответственность за результат, фиксируя базовые и целевые метрики.
Практика
- Что получишь
- Понимание, почему отключение моделей Anthropic — не локальный инцидент, а симптом гонки, и три прикладных навыка: находить реальную боль, контролировать доступы агентов и отвечать за результат.
- Первый шаг
- Начните с навыка «найти боль»: перед тем как автоматизировать задачу, спросите, какой процесс сломается первым при росте бизнеса в 10 раз, и замерьте базовую метрику этого процесса.
- Цифры
- —18 дней — столько продлилось отключение Fable и Mythos по требованию властей США
- —27-летний баг в OpenBSD и 16-летний в FFmpeg — их нашла Mythos; автоматические тесты пропускали эти ошибки 5 миллионов раз
- —29% — прогнозируемый Бюро трудовой статистики рост рабочих мест аналитиков информационной безопасности с 2024 по 2034 год
- —10% — такую минимальную вероятность гибели человечества от ИИ в ближайшее десятилетие называет Ивен Хабингер из Anthropic
- Честно
- Автор продвигает своё сообщество: в конце ролика предлагает бесплатный гайд, который лежит внутри его комьюнити (ссылка в описании), и по ходу упоминает свою программу AIS certified AI consultant как один из возможных вариантов обучения. Партнёрских ссылок нет. Часть материалов (твиты и точные формулировки) видна на экране, а в пересказе передана кратко.
Если слова незнакомы — 4 терминов
- джейлбрейкспособ обойти встроенные ограничения модели и заставить её сделать то, что обычно запрещено
- агентпрограмма, которая сама выполняет действия: читает данные, пишет код, отправляет сообщения
- read-onlyрежим доступа только на чтение, без права изменять данные
- классификатор безопасностимодель, обученная распознавать и блокировать опасные запросы или обходы защиты
Компоненты
4 шт.Формат: реакция на новость · для бизнеса · уверенность разметки 0.85 · источник