Безопасные AI-агенты: мозги планируют, руки выполняют

Что в ролике
Спикер отталкивается от того, что продакшен-агенты — это не чат-боты, а фоновые, событийные и многоагентные системы, которые по сути становятся приложениями. Аналогия с микросервисами: агент в одиночку не должен делать всё, вместо этого нужен harness — управляющий контур, который координирует агентов, инструменты, API, MCP и людей. Главная мысль доклада — чёткое разделение: LLM отвечает только за план, а harness детерминированно выполняет шаги, включая платёжные операции, перезапуск кластера и согласования. Исполнение должно быть идемпотентным и фиксировать побочные эффекты, а при необходимости включать шлюз одобрения человеком через Slack. Такие системы автор называет late bound sagas: набор инструментов и задач конечен и детерминирован, но последовательность шагов агент собирает на лету. В демо SRE-агент на платформе Conductor за два прохода анализирует логи и метрики, откатывает деплой и проверяет восстановление, при этом план от LLM компилируется в готовый workflow. Conductor — открытая платформа оркестрации, на которой это построено, а Orkes предоставляет enterprise-версию, и поддерживаются агенты LangChain и OpenAI.
Практика
- Что получишь
- Понимание архитектурного паттерна для продакшен-агентов: где проходит граница между решением LLM и исполнением кода, как встроить согласования и что должно быть идемпотентным.
- Первый шаг
- Разберите один свой агентский сценарий на шаги и вынесите все необратимые действия (платежи, перезапуск, отправка писем) в детерминированный код с проверкой состояния до и после.
- Цифры
- —2 итерации — столько проходов делает демонстрационный SRE-агент для анализа и устранения проблемы
- —каждый час — частота запуска фонового агента из примера доклада
- —от нескольких секунд до месяцев — диапазон длительности работы harness'а в production
- —от 1 до нескольких шагов — горизонт планирования, который агент может выдавать за раз
- Честно
- Доклад продвигает Conductor и Orkes — спикер представляет компанию и в конце даёт QR-код, Slack и стенд. Демо заранее подготовлено, а конкретные команды и код не показаны: интерфейс Conductor и шаги workflow видны только на экране. Для повторения нужно самостоятельно изучить документацию Conductor.
Если слова незнакомы — 7 терминов
- LLMбольшая языковая модель, принимающая решения и генерирующая текст
- harnessуправляющий контур или обвязка, который запускает и контролирует агентов
- детерминированныйрезультат всегда одинаков и предсказуем, без случайности модели
- идемпотентностьповторное выполнение одного шага не создаёт новых побочных эффектов
- сагаworkflow из последовательных шагов с возможностью отката или компенсации
- MCPпротокол, позволяющий ассистенту подключаться к внешним инструментам и данным
- workflowописанная последовательность шагов для выполнения задачи
Связки из этого ролика
2 шт.- Conductor + LangChain agents
- Conductor + OpenAI agents
Компоненты
7 шт.Формат: разбор · для продвинутых · уверенность разметки 0.85 · источник