К содержимому
Дайджест

AI-лаборатории игнорируют экспертов по кибербезопасности

IBM Technology·23 сентября 2026·37:20
можно прочитать что произошло
Открыть на YouTube
Выпуск подкаста IBM Security Intelligence, в котором трое экспертов по кибербезопасности разбирают, почему лаборатории ИИ не советуются с практиками, и обсуждают открытые модели и прозрачность инцидентов.

Что в ролике

Если вы работаете в кибербезопасности и чувствуете, что ваши знания не учитывают при обсуждении рисков ИИ, этот выпуск подтверждает: практиков действительно не зовут, а лаборатории фокусируются на alignment, а не на защите от реальных атак. Эксперты считают сценарии вроде захвата интернета ботами оторванными от реальности: по словам одного из них, такие предупреждения предполагают, что в сети нет ни антивирусов, ни сетевой сегментации, ни управления инцидентами. На примере TikTok-взлома обсуждают открытые модели: стартап Depth First модифицировал GLM и нашёл уязвимости, позволявшие хакерам получать доступ к камерам пользователей. Джефф Крум напоминает, что ограничения на frontier-модели бьют только по хорошим парням: злоумышленники уже давно используют альтернативы вроде WormGPT, которая за 20 долларов в месяц писала вредоносный код. Омари Джонс добавляет, что аудит третьих сторон после деплоя не заменяет проверку до запуска, а изоляция должна быть настоящим air gap с удалёнными Wi-Fi и Bluetooth-модулями, иначе модель, умеющая находить zero-day, сбежит. Второй блок посвящён отчёту Unit 42, где ИИ нашёл 14 000 уязвимостей, 99% из которых ранее не были известны, но у многих нет proof of concept, и это создаёт бэклог патчей. В финале разбирают советник CISA «Communicating Under Pressure»: он призывает сообщать заинтересованным сторонам то, что им нужно для управления рисками, а не только обязательный минимум, но панель сходится, что без «зубов» это останется добровольным, потому что компании будут действовать в своих интересах, а регулирование не успеет за технологией.

Практика

Что получишь
Аргументы практиков о том, почему запреты на frontier-модели не защищают, а только мешают защитникам, и почему добровольные призывы к прозрачности не заменят обязательных требований.
Первый шаг
Проверьте, есть ли у вас реальный air gap для тестовых моделей (без Wi-Fi и Bluetooth) и читаете ли вы условия доступа приложений, которым даёте разрешения.
Цифры
  • —$20 в месяц — столько стоила подписка на WormGPT, которая писала вредоносное ПО без ограничений.
  • —14 000 уязвимостей нашёл ИИ по отчёту Unit 42, 99% из них ранее не были известны.
  • —80 000 устройств NetScaler были скомпрометированы за два дня после раскрытия деталей эксплойта, по примеру Никки о рисках полной прозрачности.
  • —30 лет развития кибербезопасности игнорируются в сценариях лабораторий, по цитате Сира Мартина.
Честно
Это выпуск корпоративного подкаста IBM: участники — сотрудники IBM, поэтому взгляд отражает позицию компании, хотя конкретные продукты не рекламируют. Ключевые данные (Unit 42, WormGPT, TikTok-исследование) упоминаются устно, без ссылок на экран, часть имён и названий передана по субтитрам и может быть неточной. В конце просят подписаться на подкаст.
Если слова незнакомы — 5 терминов

Компоненты

4 шт.

Формат: реакция на новость · для практикующих · уверенность разметки 0.9 · источник