К содержимому
Дайджест

Enterprise-агенты: gateway, MCP и экономия токенов на 90%

AI Engineer·14 октября 2026·29:27
нужен экран понять, как устроено промо
Открыть на YouTube
Доклад инженера Credit Karma о том, как превратить экспериментальных AI-агентов в управляемую enterprise-систему с gateway, мониторингом и оптимизацией токенов.

Что в ролике

Если вы уже пробовали собирать агентов на LangGraph и хотите запустить их в проде, этот доклад даёт каркас из обязательных слоёв, без которых агенты падают в production. По словам автора, старшего инженера Credit Karma, провалы обычно вызваны отсутствием централизованного gateway, безопасных MCP-серверов и контроля секретов, а не слабой моделью. Предлагается dev-портал, который по заявке генерирует репозиторий с LangGraph-агентом, памятью, трекингом, блокировкой PII и оптимизатором контекста, а также создаёт продакшн-ресурсы: workload identity, базы для метрик и секреты. Агенты обращаются только через MCP-шлюз, который сохраняет сессию в Redis, выдаёт JWT и маршрутизирует вызовы к нужным MCP-серверам, запрещая прямой доступ к эндпоинтам. Мониторинг разделён: логи уходят в ELK, Loki или CloudWatch, трассировки — в OpenTelemetry и Tempo, метрики — в Prometheus, а LangGraph для чувствительных операций включает human-in-the-loop. Память на checkpoints в SQLite или Cloud Spanner хранит thread/run ID и историю узлов, а трекинг и оценка качества по каждому агенту позволяют потом считать ROI. Блокировка PII режет секреты до отправки в LLM при уверенности выше 90%, а оптимизатор контекста в демо сжал запрос к Artifactory с 24 000 токенов до 2 400, Slack-запрос — до 1 500, то есть экономия около 90%.

Практика

Что получишь
Понимание, какие слои нужны для перевода агентов в прод: gateway, MCP-серверы, мониторинг, память, трекинг, PII-фильтр и оптимизатор контекста. Можете повторить архитектуру на своих инструментах, включая экономию токенов на 70–90%.
Первый шаг
Начать с внедрения централизованного MCP-шлюза с аутентификацией и регистрацией агентов, прежде чем добавлять остальные слои.
Цифры
  • —24 000 токенов — столько использовал запрос к JFrog Artifactory до оптимизации; после — 2 400, экономия 90%
  • —1 500 токенов — столько занял Slack-запрос после оптимизации против 24 000 до неё
  • —90% — порог уверенности, выше которого PII-фильтр блокирует и редактирует секреты
  • —70–78% — типичная экономия токенов с оптимизатором контекста в большинстве случаев по словам автора
Честно
В конце автор рекламирует свою книгу по MCP на Amazon: Kindle-версия бесплатна, бумажная — платно. Все демонстрации показывают экран с таблицами и цифрами, но конкретные SQL-запросы и настройки в пересказе не видны, для повторения придётся смотреть видео. Прямых ссылок на код нет.
Если слова незнакомы — 6 терминов

Понадобится экран

Часть информации есть только на экране (проход по интерфейсу). Открыть на YouTube с 19:38.

Связки из этого ролика

4 шт.

Компоненты

21 шт.

Цитаты-доказательства

дословно из субтитров

Формат: разбор · для практикующих · уверенность разметки 0.85 · источник