AI-безопасность: OWASP Top 10, MCP и vibe coding

Что в ролике
Вы используете агентов, MCP-серверы и код, который пишет сам себя, — этот воркшоп показывает, где в этой связке главные дыры и как закрывать их на уровне проектирования, а не после атаки. Автор, developer advocate в Snyk, разбирает OWASP Top 10 для LLM: промпт-инъекции, слив чувствительных данных, уязвимости цепочки поставок, отравление данных и моделей, избыточные права агентов. На примере Gandalf он показывает прямую промпт-инъекцию, а белую надпись на белом фоне в LinkedIn — как работает косвенная инъекция. По цепочке поставок он приводит цифру: в выгрузке из 10 000 скиллов 367 содержали вредоносный код, поэтому даже текстовый файл скилла надо сканировать перед установкой. Для MCP-серверов угроза похожая: протокол простой, SDK скачивают 8,3 млн раз в неделю, а вредоносные инструкции внутри сервера могут воровать API-ключи и токены, как показала уязвимость Figma MCP с выполнением команд. Отдельным блоком он объясняет threat modeling и AI BOM — реестр моделей, датасетов, агентов и пайплайнов, который помогает быстро находить, какие компоненты затронуты уязвимостью. В финальной части про vibe coding он разбирает кейс Replit, где агент удалил продовую базу, и OpenClaw с 30 000 открытых портов 5353 в интернете. Защиту он сводит к шести слоям — от security-промптов и разделения сред до обучения людей и AI-политик, а бонусом показывает, как те же инструменты превращаются в offensive-агентов.
Практика
- Что получишь
- Вы получите карту главных рисков в агентных системах и перечень конкретных защитных слоёв: от промптов и прав до сканирования скиллов и MCP-серверов.
- Первый шаг
- Установить Snyk CLI и прогнать команду `snyk ai-bom` по своему репозиторию или MCP-серверу, чтобы увидеть инвентарь AI-компонентов и найденные уязвимости.
- Цифры
- —367 из 10 000 — столько скиллов содержали вредоносный код в скане, который упоминает автор
- —8,3 млн — столько раз в неделю скачивают MCP SDK
- —30 000 — столько открытых портов 5353 найдено у OpenClaw в интернете
- —200+ — столько писем успел удалить или заархивировать агент в инциденте из примера
- Честно
- Автор — developer advocate в Snyk и большую часть практических советов замыкает на бесплатные инструменты Snyk: сканер MCP-серверов, AI BOM, learn.snyk.io, а сертификат выдаётся после квиза на сайте компании. Некоторые демо, конкретные команды и QR-коды видны только на экране, готовых промптов целиком в пересказе нет. Часть тем пройдена галопом, так как трёхчасовой воркшоп сжат до двух часов.
Если слова незнакомы — 8 терминов
- MCPпротокол, через который агенты подключаются к внешним API и инструментам
- промпт-инъекцияатака, при которой текст в задании или на странице заставляет модель игнорировать инструкции
- OWASP Top 10ежегодный список главных угроз безопасности приложений, отдельная версия для LLM
- скиллтекстовый файл-инструкция для агента, который можно скачать и установить
- vibe codingподход к разработке, когда код генерирует AI по инструкциям на естественном языке
- AI BOMинвентарный список всех AI-компонентов приложения — моделей, датасетов, агентов и пайплайнов
- SDKнабор библиотек для разработки под конкретный протокол или сервис
- threat modelingпроцесс анализа угроз на этапе проектирования, до того как система написана
Связки из этого ролика
7 шт.- MCP SDK
- FastAPI
- Python
- Node.js
- Next.js
- PostgreSQL
- Terraform
Компоненты
13 шт.Формат: пошаговый урок · для практикующих · уверенность разметки 0.9 · источник