Safe Agents: защита кодинг-агента от кражи ключей

Что в ролике
Автор показывает реальную prompt-injection атаку: кодинг-агент получает скрытую инструкцию из HTML-комментария в README и заметки в package-файле, отправляет пять секретов из env-файла на сервер злоумышленника, а потом спокойно завершает настройку проекта, как будто это обычный шаг. Hugging Face выпустила бесплатный прокси Safe Agents, который ставится между агентом и моделью и проверяет каждый tool call до выполнения. Инструмент поддерживает форматы OpenAI и Anthropic, имеет гайды для 13 агентов, включая Claude Code и OpenCode, и работает в три слоя: проверка allow list, библиотека ActiveScan с шаблонами опасного поведения и опциональный AI-судья. В тесте с OpenCode и открытой моделью Qwen 3 Coder на 30 млрд параметров без защиты атака сработала в двух из трёх запусков, а с Safe Agents и авторским правилом оба повтора заблокировали отправку секретов, при этом обычные npm install и тесты прошли. Заявленная задержка прокси 10–20 мс, у автора вышло около 5 мс, а в финальной сессии из 11 tool calls девять прошли, а два заблокировались — попытка утечки и запрос к Wikipedia, которого не было в allow list. Однако из коробки Safe Agents пропустил исходную атаку: IP-адрес из README стал частью разговора и прошёл allow list, а у ActiveScan не оказалось детектора отправки файла с секретами. Автор закрыл дыру плагином примерно на 30 строк Python, который запрещает отправлять env-файл и API-ключи в сеть, после чего блокировались все варианты атаки через curl и пайпы. Вывод: Safe Agents — это слой правил и логов, а не панацея, и его стоит использовать вместе с песочницей и правами агента, особенно в CI и фоновых задачах, где за командами никто не следит.
Практика
- Что получишь
- Поймёте, как кодинг-агенты выполняют скрытые инструкции из файлов проекта, и как поставить Safe Agents, чтобы блокировать подозрительные команды и видеть полный лог вызовов.
- Первый шаг
- Установите Safe Agents одной командой и поменяйте base URL модели в агенте на адрес локального прокси, затем запустите обычную задачу и понаблюдайте за блокировками в live-логе.
- Цифры
- —13 — столько кодинг-агентов имеют готовые инструкции по подключению Safe Agents, включая Claude Code и OpenCode
- —10–20 мс — заявленная задержка Safe Agents на каждый вызов, у автора в собственной установке вышло около 5 мс
- —11 вызовов инструментов прошло через Safe Agents в финальной сессии: 9 пропущено, 2 заблокировано
- —30 строк Python — размер авторского правила, запрещающего отправку env-файла и API-ключей в сеть
- Честно
- Ролик выходит на канале Better Stack, но прямой рекламы их продукта в видео нет: Safe Agents бесплатен и открыт. Из коробки инструмент пропустил исходную атаку с кражей секретов, защита заработала только после того, как автор дописал собственное правило на 30 строк Python. Все ключи и сервер злоумышленника в демо фейковые и работают в Docker на одной машине, а точный код правила и команды видны только на экране.
Если слова незнакомы — 7 терминов
- prompt injectionскрытая инструкция в файлах проекта, которую агент выполняет как обычную команду
- tool callкоманда, которую модель просит агента выполнить на компьютере
- проксипрограмма-посредник, которая пропускает запросы между агентом и моделью
- allow listсписок адресов, которым разрешено получать данные
- env-файлфайл с секретами и конфигурацией проекта
- open modelмодель с открытыми весами, которую можно запускать на своей машине
- CIсистема автоматического запуска тестов и сборки при изменениях кода
Связки из этого ролика
3 шт.- TypeScript
- OpenAI API
- Anthropic API
Компоненты
9 шт.Формат: разбор кейса · для практикующих · уверенность разметки 0.88 · источник