300 агентов на 60 человек: как Runlayer обезопасила их

Что в ролике
В Runlayer, где работают 50–60 человек, ежедневно крутятся более 300 агентов, подключённых к внутренним системам, и до недавнего времени никто не видел, что они делают. Компания развернула шлюз и начала централизованно логировать каждую сессию и каждый вызов инструмента, чтобы получить карту всех агентов и их рисков. Разбор показал, что письмо с вредоносной инструкцией может заставить наивного агента выгрузить список клиентов, а агента-ревьюера кода можно уговорить одобрить изменения, если повторять просьбу. Статические политики не решают проблему, поэтому в Runlayer обучили собственные модели-классификаторы, которые проверяют каждый вызов инструмента на соответствие исходной задаче агента. Мониторинг вскрыл и финансовые потери: плохо написанный MCP-сервер рекрутеров зацикливался на ошибках, а переход с дешёвой модели на дорогую увеличил расходы более чем в 100 раз за неделю. Для защиты компания предлагает жёстко ограничивать права агентов на запись, отслеживать отклонения от привычного поведения и вводить бюджеты с обоснованием дорогих моделей.
Практика
- Что получишь
- Понять, какие риски несут внутренние AI-агенты (промпт-инъекции, избыточные права, рост расходов) и какой набор мер — мониторинг, классификаторы, бюджеты — помогает с ними справиться.
- Первый шаг
- Начать с инвентаризации: развернуть шлюз или логирование всех агентских сессий и вызовов инструментов, чтобы увидеть, кто к чему имеет доступ.
- Цифры
- —50–60 человек — размер команды Runlayer, у которой больше 300 агентов работает ежедневно
- —300 агентов — столько автономных агентов ежедневно работают внутри Runlayer
- —100 раз — во столько выросли расходы за неделю после перехода с дешёвой модели на дорогую
- Честно
- Доклад носит обзорный характер: конкретных инструкций по внедрению классификаторов или настройке шлюза нет, а визуализации и внутренние инструменты Runlayer не публикуются. Автор в конце приглашает к стенду компании, так что это отчасти промо продукта Runlayer.
Если слова незнакомы — 2 терминов
- MCP-серверсервер, который предоставляет агентам доступ к инструментам и данным через протокол MCP
- классификатормодель машинного обучения, которая относит входные данные к одной из заданных категорий
Связки из этого ролика
2 шт.- MCP servers + agent gateway + session logging
- classifier models + agent gateway
Компоненты
3 шт.Формат: разбор кейса · для практикующих · уверенность разметки 0.87 · источник