К содержимому
Дайджест

Безопасные AI-агенты: мозги планируют, руки выполняют

AI Engineer·8 октября 2026·16:50
текст даёт основное понять, как устроено промо
Открыть на YouTube
Доклад о том, как разделить принятие решений LLM и детерминированное исполнение, чтобы безопасно запускать агентов в production.

Что в ролике

Спикер отталкивается от того, что продакшен-агенты — это не чат-боты, а фоновые, событийные и многоагентные системы, которые по сути становятся приложениями. Аналогия с микросервисами: агент в одиночку не должен делать всё, вместо этого нужен harness — управляющий контур, который координирует агентов, инструменты, API, MCP и людей. Главная мысль доклада — чёткое разделение: LLM отвечает только за план, а harness детерминированно выполняет шаги, включая платёжные операции, перезапуск кластера и согласования. Исполнение должно быть идемпотентным и фиксировать побочные эффекты, а при необходимости включать шлюз одобрения человеком через Slack. Такие системы автор называет late bound sagas: набор инструментов и задач конечен и детерминирован, но последовательность шагов агент собирает на лету. В демо SRE-агент на платформе Conductor за два прохода анализирует логи и метрики, откатывает деплой и проверяет восстановление, при этом план от LLM компилируется в готовый workflow. Conductor — открытая платформа оркестрации, на которой это построено, а Orkes предоставляет enterprise-версию, и поддерживаются агенты LangChain и OpenAI.

Практика

Что получишь
Понимание архитектурного паттерна для продакшен-агентов: где проходит граница между решением LLM и исполнением кода, как встроить согласования и что должно быть идемпотентным.
Первый шаг
Разберите один свой агентский сценарий на шаги и вынесите все необратимые действия (платежи, перезапуск, отправка писем) в детерминированный код с проверкой состояния до и после.
Цифры
  • —2 итерации — столько проходов делает демонстрационный SRE-агент для анализа и устранения проблемы
  • —каждый час — частота запуска фонового агента из примера доклада
  • —от нескольких секунд до месяцев — диапазон длительности работы harness'а в production
  • —от 1 до нескольких шагов — горизонт планирования, который агент может выдавать за раз
Честно
Доклад продвигает Conductor и Orkes — спикер представляет компанию и в конце даёт QR-код, Slack и стенд. Демо заранее подготовлено, а конкретные команды и код не показаны: интерфейс Conductor и шаги workflow видны только на экране. Для повторения нужно самостоятельно изучить документацию Conductor.
Если слова незнакомы — 7 терминов

Связки из этого ролика

2 шт.

Компоненты

7 шт.

Формат: разбор · для продвинутых · уверенность разметки 0.85 · источник