К содержимому
Дайджест

Три опасные черты агента: как ограничить доступ по задаче

AI Engineer·12 октября 2026·25:08
текст даёт основное понять, как устроено промо
Открыть на YouTube
Доклад для разработчиков агентов о том, почему комбинация доступа к приватным данным, недоверенному контенту и внешним сервисам опасна, и как управлять доступом на уровне задачи с помощью токенов.

Что в ролике

Если ваш агент одновременно читает приватные данные, обрабатывает произвольный входящий контент и ходит во внешние API, он может нанести реальный ущерб. В демо показан on-call агент с полным доступом: он читает тикеты, вытаскивает PII клиентов, дропает продовую базу, перезагружает сервер и масштабирует сервис с 4 до 40 подов, за что начисляется 420 долларов в час. Автор называет это «смертельной трифектой» — комбинацией доступа к приватным данным, контакта с недоверенным контентом и возможности общаться с внешними сервисами. Обычные решения вроде OAuth, MCP-шлюза или песочницы не дают доступа, ограниченного конкретной задачей, потому что у агента остаются постоянные полномочия. Предлагается использовать token exchange (RFC 8693) вместе с Security Token Service: пользователь логинится, делегирует агенту часть своих прав, а STS выдаёт краткоживущие токены под каждый вызов инструмента. Политики проверяют, какой агент, от чьего имени и к какому ресурсу обращается, а intent-based authorization дополнительно сверяет запрос с миссией, заявленной в промпте. В повторном демо с таким контролем агент не получает доступ к PII, ему запрещено дропать продовую базу, а перезапуск сервера и масштабирование требуют одобрения человека и проверки его роли. В итоге сохраняется и полезность агента, и сквозная цепочка идентичности от пользователя до ресурса.

Практика

Что получишь
Поймете, почему агенты с доступом к данным опасны и как спроектировать контроль доступа при помощи токенов обмена и политик, чтобы ограничить действия агента рамками конкретной задачи.
Первый шаг
Начните с инвентаризации прав вашего агента: какие API-ключи и строки подключения он использует, и попробуйте заменить их на краткоживущие токены через существующий OAuth-сервер.
Цифры
  • —$420 в час — столько стоило масштабирование сервиса с 4 до 40 подов в демо без контроля доступа
  • —4 и 40 — количество подов до и после масштабирования в сценарии с падением сайта
  • —1 из 3 посетителей — доля пользователей, у которых падал сайт в демо
  • —2020 — год публикации стандарта token exchange (RFC 8693), на котором основано решение
Честно
Докладчица — сотрудница Keycard, и решение с intent-based authorization продвигает подход своей компании. Конкретная реализация IBA не стандартизирована (стандарт ещё принимает предложения), в демо используется только policy governance, а не полноценный IBA.
Если слова незнакомы — 7 терминов

Связки из этого ролика

2 шт.

Компоненты

9 шт.

Формат: разбор · для продвинутых · уверенность разметки 0.85 · источник