К содержимому
Дайджест

Управление AI-агентами как цифровыми сотрудниками

AI Engineer·27 октября 2026·18:13
можно прочитать понять, как устроено промо
Открыть на YouTube
Выступление для инженеров и руководителей, которые уже внедряют AI-агентов и ищут способ управлять ими, а не просто полагаться на встроенные ограничения моделей.

Что в ролике

Если вы уже запускаете AI-агентов и ловите себя на том, что относитесь к ним как к очередному софту, Тим Тайлер предлагает другую рамку — управлять ими как цифровыми сотрудниками, а не приложениями. Его фреймворк agent accountability делится на три этапа: назначение, выравнивание и администрирование. На первом этапе агенту нужно дать уникальный идентификатор в общем реестре, определить команду и назначить спонсора — живого человека, который отвечает за его действия, как Свен отвечает за агента 409. Затем агенту задают роль, полномочия и границы доступа: в примере агент 203 может передавать задачу агенту 409, но тот возвращает только данные уровня D, общие для Свена и обоих агентов. Автор подчёркивает, что нельзя полагаться на встроенное выравнивание модели, поэтому для агента нужен контракт из детерминированных правил и вероятностных намерений, за соблюдением которого следят отдельные guardian agents — агенты-надзиратели — на скорости машин. Администрирование превращает это в scorecard: правила проверяются, а намерения оцениваются по уровню уверенности, и при уверенности 90% действие выполняется автоматически, ниже 50% — передаётся человеку, ниже 20% — блокируется. Если агент выходит за рамки, используется эскалация — от ограничения доступа до полной остановки, причём доверие усиливают постепенно после повторяющихся успехов. Тайлер призывает начать с малого: дать каждому агенту идентификатор и назначить ответственного, а материалы фреймворка доступны на agentaccountabilityframework.org.

Практика

Что получишь
Понятный каркас из трёх шагов — назначение, выравнивание, администрирование, — по которому можно ввести агента в организацию: уникальный ID, спонсор, границы доступа и постоянный контроль без ежедневного ручного надзора.
Первый шаг
Начните с инвентаризации: дайте каждому агенту уникальный идентификатор в общем реестре и назначьте человека-спонсора, который отвечает за его действия.
Цифры
  • —3 — столько этапов в фреймворке agent accountability: назначение, выравнивание, администрирование
  • —90%, 50%, 20% — пороги уверенности: выше 90% автоматическое действие, ниже 50% эскалация человеку, ниже 20% блокировка
  • —$40 000 — верхняя граница одобренных счетов в примере детерминированного правила
  • —400 000 или 4 млн решений — на столько может опоздать квартальный обзор по сравнению с контролем на машинной скорости
Честно
Автор продвигает свой фреймворк agent accountability и ресурс agentaccountabilityframework.org, а в конце зовёт на стенд компании Gravitee — это презентация его подхода, а не нейтральный обзор. Конкретные чек-листы и контроли фреймворка показываются на слайдах, поэтому для аудита придётся открыть сайт или слайды. В начале речи он также в шутку рекламирует вакансию, упоминая свою компанию, но это не часть метода.
Если слова незнакомы — 5 терминов

Компоненты

1 шт.

Формат: разбор · для бизнеса · уверенность разметки 0.85 · источник