К содержимому
Дайджест

300 агентов на 60 человек: как Runlayer обезопасила их

AI Engineer·27 октября 2026·16:38
можно прочитать можно повторить
Открыть на YouTube
Доклад инженера Runlayer о том, как компания навела порядок в сотнях внутренних AI-агентов: мониторинг, риски и контроль расходов.

Что в ролике

В Runlayer, где работают 50–60 человек, ежедневно крутятся более 300 агентов, подключённых к внутренним системам, и до недавнего времени никто не видел, что они делают. Компания развернула шлюз и начала централизованно логировать каждую сессию и каждый вызов инструмента, чтобы получить карту всех агентов и их рисков. Разбор показал, что письмо с вредоносной инструкцией может заставить наивного агента выгрузить список клиентов, а агента-ревьюера кода можно уговорить одобрить изменения, если повторять просьбу. Статические политики не решают проблему, поэтому в Runlayer обучили собственные модели-классификаторы, которые проверяют каждый вызов инструмента на соответствие исходной задаче агента. Мониторинг вскрыл и финансовые потери: плохо написанный MCP-сервер рекрутеров зацикливался на ошибках, а переход с дешёвой модели на дорогую увеличил расходы более чем в 100 раз за неделю. Для защиты компания предлагает жёстко ограничивать права агентов на запись, отслеживать отклонения от привычного поведения и вводить бюджеты с обоснованием дорогих моделей.

Практика

Что получишь
Понять, какие риски несут внутренние AI-агенты (промпт-инъекции, избыточные права, рост расходов) и какой набор мер — мониторинг, классификаторы, бюджеты — помогает с ними справиться.
Первый шаг
Начать с инвентаризации: развернуть шлюз или логирование всех агентских сессий и вызовов инструментов, чтобы увидеть, кто к чему имеет доступ.
Цифры
  • —50–60 человек — размер команды Runlayer, у которой больше 300 агентов работает ежедневно
  • —300 агентов — столько автономных агентов ежедневно работают внутри Runlayer
  • —100 раз — во столько выросли расходы за неделю после перехода с дешёвой модели на дорогую
Честно
Доклад носит обзорный характер: конкретных инструкций по внедрению классификаторов или настройке шлюза нет, а визуализации и внутренние инструменты Runlayer не публикуются. Автор в конце приглашает к стенду компании, так что это отчасти промо продукта Runlayer.
Если слова незнакомы — 2 терминов

Связки из этого ролика

2 шт.

Компоненты

3 шт.

Формат: разбор кейса · для практикующих · уверенность разметки 0.87 · источник