Три опасные черты агента: как ограничить доступ по задаче

Что в ролике
Если ваш агент одновременно читает приватные данные, обрабатывает произвольный входящий контент и ходит во внешние API, он может нанести реальный ущерб. В демо показан on-call агент с полным доступом: он читает тикеты, вытаскивает PII клиентов, дропает продовую базу, перезагружает сервер и масштабирует сервис с 4 до 40 подов, за что начисляется 420 долларов в час. Автор называет это «смертельной трифектой» — комбинацией доступа к приватным данным, контакта с недоверенным контентом и возможности общаться с внешними сервисами. Обычные решения вроде OAuth, MCP-шлюза или песочницы не дают доступа, ограниченного конкретной задачей, потому что у агента остаются постоянные полномочия. Предлагается использовать token exchange (RFC 8693) вместе с Security Token Service: пользователь логинится, делегирует агенту часть своих прав, а STS выдаёт краткоживущие токены под каждый вызов инструмента. Политики проверяют, какой агент, от чьего имени и к какому ресурсу обращается, а intent-based authorization дополнительно сверяет запрос с миссией, заявленной в промпте. В повторном демо с таким контролем агент не получает доступ к PII, ему запрещено дропать продовую базу, а перезапуск сервера и масштабирование требуют одобрения человека и проверки его роли. В итоге сохраняется и полезность агента, и сквозная цепочка идентичности от пользователя до ресурса.
Практика
- Что получишь
- Поймете, почему агенты с доступом к данным опасны и как спроектировать контроль доступа при помощи токенов обмена и политик, чтобы ограничить действия агента рамками конкретной задачи.
- Первый шаг
- Начните с инвентаризации прав вашего агента: какие API-ключи и строки подключения он использует, и попробуйте заменить их на краткоживущие токены через существующий OAuth-сервер.
- Цифры
- —$420 в час — столько стоило масштабирование сервиса с 4 до 40 подов в демо без контроля доступа
- —4 и 40 — количество подов до и после масштабирования в сценарии с падением сайта
- —1 из 3 посетителей — доля пользователей, у которых падал сайт в демо
- —2020 — год публикации стандарта token exchange (RFC 8693), на котором основано решение
- Честно
- Докладчица — сотрудница Keycard, и решение с intent-based authorization продвигает подход своей компании. Конкретная реализация IBA не стандартизирована (стандарт ещё принимает предложения), в демо используется только policy governance, а не полноценный IBA.
Если слова незнакомы — 7 терминов
- PIIперсональные данные, по которым можно опознать человека
- MCPпротокол, позволяющий агенту пользоваться инструментами через единый интерфейс
- OAuthстандарт делегирования доступа, когда пользователь разрешает приложению действовать от своего имени
- STS (Security Token Service)сервис, который выдаёт краткоживущие токены доступа по запросу
- token exchangeобмен одного токена на другой, чтобы получить доступ с меньшими правами под конкретную задачу
- intent-based authorizationпроверка намерения агента перед действием, сверка с заявленной миссией
- podизолированный экземпляр приложения в оркестраторе, например Kubernetes
Связки из этого ролика
2 шт.- MCP + OAuth token exchange + STS
- LLM agent runtime + MCP server + policy engine
Компоненты
9 шт.Формат: разбор · для продвинутых · уверенность разметки 0.85 · источник