К содержимому
Дайджест

Долгоживущие агенты: эксперименты вместо промптов

AI Engineer·26 сентября 2026·21:27
текст даёт основное можно повторить
Открыть на YouTube
Доклад инженера-исследователя для тех, кто строит долгоживущих агентов и хочет системно улучшать их поведение вместо ручного тюнинга промптов.

Что в ролике

Если вы строите агентов, которые живут дольше одного ответа, рано или поздно всплывает одна и та же проблема: социальная согласованность разваливается на длинной дистанции. На примере Project Paradox — фреймворка агентов для игр, который автор делала в AI-лаборатории Supercell, — видно, как устроена базовая архитектура: у каждого агента своя память на RAG, вектор эмоций, оценки доверия к другим и оценка важности воспоминаний. Короткие взаимодействия работают, но когда один агент распространяет слух о скидке на манго, а потом через несколько событий игрок спрашивает об этом, система помнит тему, но теряет источник и превращает слух в факт. Автор предлагает не тюнинговать промпты вручную, а запустить поверх симуляции слой авто-исследования: определять контрольные сценарии, прогонять деревню, собирать полные трассировки, оценивать поведение и менять только небольшую политику агентов. Политика включает запись памяти, извлечение, промпт для общения, правила доверия, атрибуцию источника и триггеры перепланирования; изменения принимаются, только если растёт сбалансированный набор метрик, а не одна цифра. Сценарии проверяют, как распространяется публичный факт, остаётся ли слух неопределённым, как группа перепланирует действия, и оцениваются по нескольким измерениям: охват, сохранение источника, ложные уверенности, время перепланирования, утечки приватности. Главный вывод: память на RAG сама по себе не решает проблему — нужны атрибуция «из первых/вторых рук», разделение эпизодической памяти и текущих убеждений, а также контрольные сценарии вместо впечатлений. Практический рецепт: зафиксировать стенд и метрики, логировать трассировки, выставить наружу маленькую поверхность политики и оставлять только те изменения, которые прошли повторные прогоны.

Практика

Что получишь
Поймёте, почему у агентов с долгой памятью разваливается социальная согласованность и почему RAG-память не решает проблему. Получите шаблон оценки: контрольные сценарии, сбалансированные метрики и маленькая редактируемая политика вместо ручной правки промптов.
Первый шаг
Выбрать один повторяемый сценарий поведения агента, например передачу слуха или публичного факта, зафиксировать его как контрольный и начать собирать трассировки прогона.
Цифры
  • —4 компонента архитектуры Project Paradox: память, эмоции, убеждения и оценка важности воспоминаний
  • —3 типа контрольных сценариев: распространение публичного факта, неопределённость слуха и перепланирование
  • —2 уровня источника информации: из первых рук и с чужих слов
Честно
Готового кода или готовых конфигураций в докладе нет, воспроизвести Project Paradox по видео нельзя — фреймворк разработан внутри AI-лаборатории Supercell и не публиковался. Многие детали политики и формулы метрик остаются за кадром, видны только отдельные кадры с экрана. Автор приглашает связаться, но явной продажи продукта, курса или партнёрской ссылки нет.
Если слова незнакомы — 7 терминов

Компоненты

3 шт.

Формат: разбор кейса · для продвинутых · уверенность разметки 0.9 · источник