К содержимому
Дайджест

Три AI-атаки: ядовитые ответы, LLM-взлом и рой агентов

IBM Technology·30 сентября 2026·34:54
можно прочитать что произошло
Открыть на YouTube
Подкаст IBM Security Intelligence, где эксперты разбирают три реальные схемы атак с использованием ИИ — полезно специалистам по кибербезопасности и всем, кто внедряет AI-инструменты.

Что в ролике

Если вы доверяете ответам ChatGPT или используете AI-агентов для работы, этот выпуск подкаста IBM Security Intelligence разбирает три реальные атаки, которые используют это доверие. Первая — кампания Dark Sourcery от Vigilance Security: злоумышленники отравляют выдачу через AEO, чтобы чат-боты цитировали вредоносные страницы, например подменяли номер поддержки, и 91% пользователей не проверяют такие ответы. Вторая — Grey Noise зафиксировала LLM-ассистированного хакера, который с июня эксплуатировал критические уязвимости в Ubiquiti и Zyxel, а также в WordPress. Он создал 17 скриптов для обхода Microsoft AMSI и украл тысячи документов у как минимум одного западного правительства. Третья — тот же Grey Noise описал атаку роя из сотен AI-агентов на серверы печати PaperCut: за 4 часа злоумышленник прошёл от пустого рабочего пространства до удалённого выполнения кода и скомпрометировал 440 инстансов в 395 организациях из 48 стран. Панелисты напоминают, что базовые меры — своевременные патчи, многофакторная аутентификация, сегментация сети и контроль доступа агентов — могли бы предотвратить большинство таких инцидентов. Отдельно отмечают, что сами атакующие не всегда контролируют своих агентов: те нарушали заданные ограничения по странам, как и в известных случаях с OpenAI и Anthropic. В финале звучит мысль, что AI — это множитель силы, и защищающимся нужно использовать те же технологии для автоматического обнаружения слабых мест, а не только реагировать постфактум.

Практика

Что получишь
Вы получите трезвую картину трёх актуальных схем атак с использованием ИИ и список базовых мер защиты, которые можно применить в организации уже сегодня.
Первый шаг
Начните с включения многофакторной аутентификации и установки свежих патчей для всего сетевого оборудования и серверов печати, особенно PaperCut, Ubiquiti и Zyxel.
Цифры
  • —91% — доля регулярных пользователей ChatGPT, которые не проверяют ответы чат-ботов (по данным Exploding Topics)
  • —17 скриптов — столько инструментов создал LLM-ассистированный хакер для обхода Microsoft AMSI
  • —440 экземпляров PaperCut в 395 организациях из 48 стран — масштаб атаки роя AI-агентов
  • —4 часа — время от пустого рабочего пространства до удалённого выполнения кода на жертве
Честно
Выпуск подготовлен IBM — это часть их подкаста, поэтому компания продвигает собственный бренд в кибербезопасности, но без партнёрских ссылок или продаж. Упоминаемые атаки взяты из отчётов Grey Noise и Vigilance Security, конкретные эксплойты и код в выпуске не демонстрируются. В транскрипте название одного из вендоров записано как 'Zeil', по контексту это, скорее всего, Zyxel, но точность не гарантирована.
Если слова незнакомы — 6 терминов

Компоненты

11 шт.

Формат: реакция на новость · для практикующих · уверенность разметки 0.85 · источник