К содержимому
Дайджест

Как секреты утекают через AI-агентов и что с этим делать

AI Engineer·11 октября 2026·15:22
можно прочитать понять, как устроено промо
Открыть на YouTube
Доклад для разработчиков и инженеров, которые строят агентные системы на LLM и хотят понять, где именно возникают утечки секретов и как их предотвратить.

Что в ролике

Разработчикам, которые собирают агентные системы поверх LLM, важно помнить: модели — лишь часть пайплайна, а логирование и передача секретов в контекст создают основные риски утечки. На примере типичного агента спикер показывает, как запрос пользователя идет в рантайм, тот достает секрет из хранилища вроде 1Password или HashiCorp Vault и передает его в слой рассуждений, после чего LLM делает tool call — и секрет может утечь через API или попасть в обучающие данные. Чтобы этого избежать, Venice хранит не сами идентификаторы, а их хеши, шифрует данные с разделением ключей на две половины и использует отзываемые handle-объекты для доступа. Дополнительно предлагается сужать скоуп агента: из MCP-сервера с 15–20 инструментами подключать только нужный, а перед агентом ставить слой классификации для защиты от prompt injection. Более радикальный шаг — привязать хранилище секретов не к слою рассуждений, а к детерминированному рантайму, который исполняет tool calls, тогда пароли не попадают в контекст LLM. Песочницы и виртуальные машины вроде Firecracker или AWS EC2 в VPC повышают безопасность, но не решают проблему полностью: агент с доступом в интернет может случайно отправить данные наружу, поэтому нужен мониторинг прав. В конце спикер рассказывает про аппаратный уровень — доверенные среды исполнения (TEE), где Venice возвращает attestation, который можно проверить, но признает, что конфиденциальные tool calls еще требуют доработки.

Практика

Что получишь
Понимание, на каких этапах агентного пайплайна чаще всего утекают секреты, и набор архитектурных паттернов, которые можно применить в своих проектах.
Первый шаг
Пересмотреть свой агентный рантайм: убедиться, что доступы из vault привязаны к исполняющему слою, а не передаются в контекст LLM.
Цифры
  • —15–20 — столько инструментов может быть на MCP-сервере, из которых агенту нужен только один, чтобы не тащить лишние доступы
  • —90% годового дохода — столько может приносить один enterprise-клиент, потеря которого критична при утечке данных
  • —2 половины — на столько частей разделены ключи шифрования в split key custody, чтобы ни одна сторона не могла расшифровать данные
Честно
Это выступление сотрудника Venice AI, поэтому значительная часть — демонстрация приватности их платформы (отсутствие хранения, TEE, split key custody). Готового кода или пошаговых инструкций нет, только архитектурные принципы. Некоторые элементы вроде процесса верификации attestation видны только на слайдах.
Если слова незнакомы — 8 терминов

Связки из этого ролика

1 шт.

Компоненты

15 шт.

Формат: разбор · для практикующих · уверенность разметки 0.85 · источник