AI-лаборатории игнорируют экспертов по кибербезопасности

Что в ролике
Если вы работаете в кибербезопасности и чувствуете, что ваши знания не учитывают при обсуждении рисков ИИ, этот выпуск подтверждает: практиков действительно не зовут, а лаборатории фокусируются на alignment, а не на защите от реальных атак. Эксперты считают сценарии вроде захвата интернета ботами оторванными от реальности: по словам одного из них, такие предупреждения предполагают, что в сети нет ни антивирусов, ни сетевой сегментации, ни управления инцидентами. На примере TikTok-взлома обсуждают открытые модели: стартап Depth First модифицировал GLM и нашёл уязвимости, позволявшие хакерам получать доступ к камерам пользователей. Джефф Крум напоминает, что ограничения на frontier-модели бьют только по хорошим парням: злоумышленники уже давно используют альтернативы вроде WormGPT, которая за 20 долларов в месяц писала вредоносный код. Омари Джонс добавляет, что аудит третьих сторон после деплоя не заменяет проверку до запуска, а изоляция должна быть настоящим air gap с удалёнными Wi-Fi и Bluetooth-модулями, иначе модель, умеющая находить zero-day, сбежит. Второй блок посвящён отчёту Unit 42, где ИИ нашёл 14 000 уязвимостей, 99% из которых ранее не были известны, но у многих нет proof of concept, и это создаёт бэклог патчей. В финале разбирают советник CISA «Communicating Under Pressure»: он призывает сообщать заинтересованным сторонам то, что им нужно для управления рисками, а не только обязательный минимум, но панель сходится, что без «зубов» это останется добровольным, потому что компании будут действовать в своих интересах, а регулирование не успеет за технологией.
Практика
- Что получишь
- Аргументы практиков о том, почему запреты на frontier-модели не защищают, а только мешают защитникам, и почему добровольные призывы к прозрачности не заменят обязательных требований.
- Первый шаг
- Проверьте, есть ли у вас реальный air gap для тестовых моделей (без Wi-Fi и Bluetooth) и читаете ли вы условия доступа приложений, которым даёте разрешения.
- Цифры
- —$20 в месяц — столько стоила подписка на WormGPT, которая писала вредоносное ПО без ограничений.
- —14 000 уязвимостей нашёл ИИ по отчёту Unit 42, 99% из них ранее не были известны.
- —80 000 устройств NetScaler были скомпрометированы за два дня после раскрытия деталей эксплойта, по примеру Никки о рисках полной прозрачности.
- —30 лет развития кибербезопасности игнорируются в сценариях лабораторий, по цитате Сира Мартина.
- Честно
- Это выпуск корпоративного подкаста IBM: участники — сотрудники IBM, поэтому взгляд отражает позицию компании, хотя конкретные продукты не рекламируют. Ключевые данные (Unit 42, WormGPT, TikTok-исследование) упоминаются устно, без ссылок на экран, часть имён и названий передана по субтитрам и может быть неточной. В конце просят подписаться на подкаст.
Если слова незнакомы — 5 терминов
- alignmentнастройка модели так, чтобы она следовала правилам и не нарушала ограничения
- frontier-моделисамые мощные и новые модели ИИ, обычно с ограниченным доступом
- air gapфизическая изоляция системы от любых сетей, включая Wi-Fi и Bluetooth
- zero-dayуязвимость, о которой производитель ещё не знает и для которой нет патча
- proof of conceptдемонстрация того, что уязвимость действительно можно эксплуатировать
Компоненты
4 шт.Формат: реакция на новость · для практикующих · уверенность разметки 0.9 · источник