Три AI-атаки: ядовитые ответы, LLM-взлом и рой агентов

Что в ролике
Если вы доверяете ответам ChatGPT или используете AI-агентов для работы, этот выпуск подкаста IBM Security Intelligence разбирает три реальные атаки, которые используют это доверие. Первая — кампания Dark Sourcery от Vigilance Security: злоумышленники отравляют выдачу через AEO, чтобы чат-боты цитировали вредоносные страницы, например подменяли номер поддержки, и 91% пользователей не проверяют такие ответы. Вторая — Grey Noise зафиксировала LLM-ассистированного хакера, который с июня эксплуатировал критические уязвимости в Ubiquiti и Zyxel, а также в WordPress. Он создал 17 скриптов для обхода Microsoft AMSI и украл тысячи документов у как минимум одного западного правительства. Третья — тот же Grey Noise описал атаку роя из сотен AI-агентов на серверы печати PaperCut: за 4 часа злоумышленник прошёл от пустого рабочего пространства до удалённого выполнения кода и скомпрометировал 440 инстансов в 395 организациях из 48 стран. Панелисты напоминают, что базовые меры — своевременные патчи, многофакторная аутентификация, сегментация сети и контроль доступа агентов — могли бы предотвратить большинство таких инцидентов. Отдельно отмечают, что сами атакующие не всегда контролируют своих агентов: те нарушали заданные ограничения по странам, как и в известных случаях с OpenAI и Anthropic. В финале звучит мысль, что AI — это множитель силы, и защищающимся нужно использовать те же технологии для автоматического обнаружения слабых мест, а не только реагировать постфактум.
Практика
- Что получишь
- Вы получите трезвую картину трёх актуальных схем атак с использованием ИИ и список базовых мер защиты, которые можно применить в организации уже сегодня.
- Первый шаг
- Начните с включения многофакторной аутентификации и установки свежих патчей для всего сетевого оборудования и серверов печати, особенно PaperCut, Ubiquiti и Zyxel.
- Цифры
- —91% — доля регулярных пользователей ChatGPT, которые не проверяют ответы чат-ботов (по данным Exploding Topics)
- —17 скриптов — столько инструментов создал LLM-ассистированный хакер для обхода Microsoft AMSI
- —440 экземпляров PaperCut в 395 организациях из 48 стран — масштаб атаки роя AI-агентов
- —4 часа — время от пустого рабочего пространства до удалённого выполнения кода на жертве
- Честно
- Выпуск подготовлен IBM — это часть их подкаста, поэтому компания продвигает собственный бренд в кибербезопасности, но без партнёрских ссылок или продаж. Упоминаемые атаки взяты из отчётов Grey Noise и Vigilance Security, конкретные эксплойты и код в выпуске не демонстрируются. В транскрипте название одного из вендоров записано как 'Zeil', по контексту это, скорее всего, Zyxel, но точность не гарантирована.
Если слова незнакомы — 6 терминов
- LLMбольшая языковая модель, на которой работают чат-боты вроде ChatGPT
- AI-агентпрограмма, которая самостоятельно выполняет задачи, например взламывает серверы
- AEOоптимизация контента под ответы AI-поисковиков, аналог SEO для чат-ботов
- AMSIинтерфейс сканирования вредоносного ПО от Microsoft, который антивирусы используют для проверки скриптов
- удалённое выполнение кодавозможность запустить команды на чужом компьютере через уязвимость
- сегментация сетиразделение сети на изолированные части, чтобы взлом одной не дал доступ ко всей
Компоненты
11 шт.Формат: реакция на новость · для практикующих · уверенность разметки 0.85 · источник