Долгоживущие агенты: эксперименты вместо промптов

Что в ролике
Если вы строите агентов, которые живут дольше одного ответа, рано или поздно всплывает одна и та же проблема: социальная согласованность разваливается на длинной дистанции. На примере Project Paradox — фреймворка агентов для игр, который автор делала в AI-лаборатории Supercell, — видно, как устроена базовая архитектура: у каждого агента своя память на RAG, вектор эмоций, оценки доверия к другим и оценка важности воспоминаний. Короткие взаимодействия работают, но когда один агент распространяет слух о скидке на манго, а потом через несколько событий игрок спрашивает об этом, система помнит тему, но теряет источник и превращает слух в факт. Автор предлагает не тюнинговать промпты вручную, а запустить поверх симуляции слой авто-исследования: определять контрольные сценарии, прогонять деревню, собирать полные трассировки, оценивать поведение и менять только небольшую политику агентов. Политика включает запись памяти, извлечение, промпт для общения, правила доверия, атрибуцию источника и триггеры перепланирования; изменения принимаются, только если растёт сбалансированный набор метрик, а не одна цифра. Сценарии проверяют, как распространяется публичный факт, остаётся ли слух неопределённым, как группа перепланирует действия, и оцениваются по нескольким измерениям: охват, сохранение источника, ложные уверенности, время перепланирования, утечки приватности. Главный вывод: память на RAG сама по себе не решает проблему — нужны атрибуция «из первых/вторых рук», разделение эпизодической памяти и текущих убеждений, а также контрольные сценарии вместо впечатлений. Практический рецепт: зафиксировать стенд и метрики, логировать трассировки, выставить наружу маленькую поверхность политики и оставлять только те изменения, которые прошли повторные прогоны.
Практика
- Что получишь
- Поймёте, почему у агентов с долгой памятью разваливается социальная согласованность и почему RAG-память не решает проблему. Получите шаблон оценки: контрольные сценарии, сбалансированные метрики и маленькая редактируемая политика вместо ручной правки промптов.
- Первый шаг
- Выбрать один повторяемый сценарий поведения агента, например передачу слуха или публичного факта, зафиксировать его как контрольный и начать собирать трассировки прогона.
- Цифры
- —4 компонента архитектуры Project Paradox: память, эмоции, убеждения и оценка важности воспоминаний
- —3 типа контрольных сценариев: распространение публичного факта, неопределённость слуха и перепланирование
- —2 уровня источника информации: из первых рук и с чужих слов
- Честно
- Готового кода или готовых конфигураций в докладе нет, воспроизвести Project Paradox по видео нельзя — фреймворк разработан внутри AI-лаборатории Supercell и не публиковался. Многие детали политики и формулы метрик остаются за кадром, видны только отдельные кадры с экрана. Автор приглашает связаться, но явной продажи продукта, курса или партнёрской ссылки нет.
Если слова незнакомы — 7 терминов
- агентавтономная программа, которая сама выбирает действия на основе памяти, эмоций и целей
- RAGпоиск по базе знаний и генерация ответа с опорой на найденные фрагменты
- политиканабор правил, по которым агент пишет и извлекает воспоминания
- трассировкиполные логи шагов, разговоров и обращений к памяти за один прогон
- сценарииповторяемые тестовые ситуации с известным ожидаемым поведением
- авто-исследованиеметод, при котором система сама запускает эксперименты и предлагает изменения
- промпттекстовое задание, которое управляет поведением модели
Компоненты
3 шт.Формат: разбор кейса · для продвинутых · уверенность разметки 0.9 · источник