Когда AI-агенту можно доверить процесс без надзора

Что в ролике
Когда вы хотите отдать агенту часть рабочего процесса, полезно сначала разделить политику и работающую систему: политика задаёт правила и формулировки must, may, should, а система постоянно меняется. Спикер из Coinbase предлагает представить процесс как направленный ациклический граф (DAG), где шаги идут вперёд без возвратов, например проверка клиента или выпуск кода. Внутри каждого узла часто работает цикл «сделал — проверил — доработал», то есть направленный циклический граф (DCG), которым можно управлять через LangGraph. Главная сложность — не сам граф, а проверка: что значит «хорошо» и как это измерить, потому что агенты вероятностные и один и тот же запрос даёт разные ответы. Для доверия к выходу нужны эвалы на представительных датасетах и трейсы исполнения, а не точечное сравнение с эталоном. Внедрение идёт поэтапно: сначала человек проверяет весь выход, затем выборочно, а после достижения порога уверенности — только исключения. Такой подход превращает агентов из эксперимента в часть операционной модели, сохраняя контроль на внешнем контуре.
Практика
- Что получишь
- Поймёте, как выстроить доверие к агентам через метрики качества и поэтапное включение: от полного ручного контроля до обработки только исключений.
- Первый шаг
- Выбрать один свой процесс, нарисовать его как DAG и пройтись по узлам с вопросами: проверяется ли результат по политике, можно ли ограничить цикл, есть ли трассировка и запасной человек.
- Цифры
- —20 лет — общий стаж спикера в разработке ПО
- —15 лет — из них в enterprise financial services
- —3 этапа внедрения агентов: ручная проверка, выборочная проверка, обработка исключений
- Честно
- Спикер не продаёт продукт и не продвигает курс, это методология Coinbase. Код и готовые шаблоны не приложены, схемы и список литературы видны только на слайдах, поэтому повторить пайплайн можно лишь по общим принципам.
Если слова незнакомы — 6 терминов
- DAGнаправленный ациклический граф — схема шагов процесса без возвратов назад
- DCGнаправленный циклический граф — шаги с циклами доработки до прохождения проверки
- агентпрограмма, которая выполняет часть рабочего процесса вместо человека
- эвалыоценки качества выходов агента на наборе примеров
- трейсыжурналы исполнения агента, показывающие, что происходило в процессе
- политикавнутренние правила организации, задающие границы допустимых действий
Компоненты
3 шт.Формат: разбор · для практикующих · уверенность разметки 0.9 · источник