К содержимому
Дайджест

Когда AI-агенту можно доверить процесс без надзора

AI Engineer·19 октября 2026·17:33
можно прочитать понять, как устроено
Открыть на YouTube
Доклад для инженеров и руководителей, которые хотят понять, как постепенно передавать агентам этапы рабочих процессов без потери контроля.

Что в ролике

Когда вы хотите отдать агенту часть рабочего процесса, полезно сначала разделить политику и работающую систему: политика задаёт правила и формулировки must, may, should, а система постоянно меняется. Спикер из Coinbase предлагает представить процесс как направленный ациклический граф (DAG), где шаги идут вперёд без возвратов, например проверка клиента или выпуск кода. Внутри каждого узла часто работает цикл «сделал — проверил — доработал», то есть направленный циклический граф (DCG), которым можно управлять через LangGraph. Главная сложность — не сам граф, а проверка: что значит «хорошо» и как это измерить, потому что агенты вероятностные и один и тот же запрос даёт разные ответы. Для доверия к выходу нужны эвалы на представительных датасетах и трейсы исполнения, а не точечное сравнение с эталоном. Внедрение идёт поэтапно: сначала человек проверяет весь выход, затем выборочно, а после достижения порога уверенности — только исключения. Такой подход превращает агентов из эксперимента в часть операционной модели, сохраняя контроль на внешнем контуре.

Практика

Что получишь
Поймёте, как выстроить доверие к агентам через метрики качества и поэтапное включение: от полного ручного контроля до обработки только исключений.
Первый шаг
Выбрать один свой процесс, нарисовать его как DAG и пройтись по узлам с вопросами: проверяется ли результат по политике, можно ли ограничить цикл, есть ли трассировка и запасной человек.
Цифры
  • —20 лет — общий стаж спикера в разработке ПО
  • —15 лет — из них в enterprise financial services
  • —3 этапа внедрения агентов: ручная проверка, выборочная проверка, обработка исключений
Честно
Спикер не продаёт продукт и не продвигает курс, это методология Coinbase. Код и готовые шаблоны не приложены, схемы и список литературы видны только на слайдах, поэтому повторить пайплайн можно лишь по общим принципам.
Если слова незнакомы — 6 терминов

Компоненты

3 шт.

Формат: разбор · для практикующих · уверенность разметки 0.9 · источник