Enterprise-агенты: gateway, MCP и экономия токенов на 90%

Что в ролике
Если вы уже пробовали собирать агентов на LangGraph и хотите запустить их в проде, этот доклад даёт каркас из обязательных слоёв, без которых агенты падают в production. По словам автора, старшего инженера Credit Karma, провалы обычно вызваны отсутствием централизованного gateway, безопасных MCP-серверов и контроля секретов, а не слабой моделью. Предлагается dev-портал, который по заявке генерирует репозиторий с LangGraph-агентом, памятью, трекингом, блокировкой PII и оптимизатором контекста, а также создаёт продакшн-ресурсы: workload identity, базы для метрик и секреты. Агенты обращаются только через MCP-шлюз, который сохраняет сессию в Redis, выдаёт JWT и маршрутизирует вызовы к нужным MCP-серверам, запрещая прямой доступ к эндпоинтам. Мониторинг разделён: логи уходят в ELK, Loki или CloudWatch, трассировки — в OpenTelemetry и Tempo, метрики — в Prometheus, а LangGraph для чувствительных операций включает human-in-the-loop. Память на checkpoints в SQLite или Cloud Spanner хранит thread/run ID и историю узлов, а трекинг и оценка качества по каждому агенту позволяют потом считать ROI. Блокировка PII режет секреты до отправки в LLM при уверенности выше 90%, а оптимизатор контекста в демо сжал запрос к Artifactory с 24 000 токенов до 2 400, Slack-запрос — до 1 500, то есть экономия около 90%.
Практика
- Что получишь
- Понимание, какие слои нужны для перевода агентов в прод: gateway, MCP-серверы, мониторинг, память, трекинг, PII-фильтр и оптимизатор контекста. Можете повторить архитектуру на своих инструментах, включая экономию токенов на 70–90%.
- Первый шаг
- Начать с внедрения централизованного MCP-шлюза с аутентификацией и регистрацией агентов, прежде чем добавлять остальные слои.
- Цифры
- —24 000 токенов — столько использовал запрос к JFrog Artifactory до оптимизации; после — 2 400, экономия 90%
- —1 500 токенов — столько занял Slack-запрос после оптимизации против 24 000 до неё
- —90% — порог уверенности, выше которого PII-фильтр блокирует и редактирует секреты
- —70–78% — типичная экономия токенов с оптимизатором контекста в большинстве случаев по словам автора
- Честно
- В конце автор рекламирует свою книгу по MCP на Amazon: Kindle-версия бесплатна, бумажная — платно. Все демонстрации показывают экран с таблицами и цифрами, но конкретные SQL-запросы и настройки в пересказе не видны, для повторения придётся смотреть видео. Прямых ссылок на код нет.
Если слова незнакомы — 6 терминов
- MCPпротокол, по которому агенты подключаются к инструментам и данным
- JWTкомпактный токен для безопасной передачи прав доступа
- workload identityспособ привязать сервис в Kubernetes к облачной учётке без паролей
- checkpointsсохранённые состояния графа, чтобы агент помнил, на каком шаге остановился
- PIIперсональные или секретные данные, которые нельзя отправлять в модель
- human-in-the-loopэтап, где решение принимает человек, а не агент
Понадобится экран
Часть информации есть только на экране (проход по интерфейсу). Открыть на YouTube с 19:38.
Связки из этого ролика
4 шт.- LangGraph + MCP
- OpenTelemetry + Tempo + Prometheus + Grafana
- Redis + JWT
- Kubernetes + Docker
Компоненты
21 шт.Цитаты-доказательства
дословно из субтитровФормат: разбор · для практикующих · уверенность разметки 0.85 · источник