Опыт вместо контекста: память для AI-агентов

Что в ролике
Если ваш AI-агент повторяет одни и те же ошибки, проблема не в интеллекте модели, а в отсутствии слоя опыта. Спикер утверждает, что после определенного объема контекст перестает улучшать работу агента: растут стоимость, время и число ошибок, поэтому просто передавать всю память модели неэффективно. Он предлагает разделить память на краткосрочную (рабочую) и долгосрочную, а в долгосрочной выделить фактическую память и отдельный слой опыта — абстрактные выводы из прошлых сессий, которые делятся на кейсы, стратегии и навыки. Жизненный цикл такой памяти состоит из формирования, обновления и извлечения, причем извлечение критично: если агент по запросу «дом» достанет не тот адрес (Нью-Йорк вместо Сан-Франциско), вся система бесполезна. В обновлении важно не только добавлять новые заметки, но и деактивировать устаревшие, а иногда — «забывать», чтобы агент не перегружался, как человек с почти идеальной памятью Соломон Шерешевский, которому мешало жить отсутствие забывания. Спикер рассказывает, что его команда добавила «циклы сна»: между сессиями система очищает неважное, обновляет приоритеты и перестраивает память, чтобы агент с каждым днем работал лучше. По его данным, сбор контекста для агента сократился с 20 минут до 2 минут, а опыт агента растет в 10 раз быстрее, потому что он учится на работе всех 10 членов команды, а не одного человека. Три практических правила: не сваливать всю информацию сразу, постоянно улучшать систему и вместо разовых промптов строить циклы с проверками.
Практика
- Что получишь
- Понимание, почему бесконечное добавление контекста ухудшает агентов, и схему памяти из трех этапов: формирование, обновление, извлечение. Сможете спроектировать слой опыта, который сокращает сбор контекста с 20 минут до 2 минут.
- Первый шаг
- Начните с разделения памяти агента на краткосрочную и долгосрочную, а в долгосрочной отдельно сохраняйте не только факты, но и абстрактные выводы из сессий.
- Цифры
- —20 минут — столько раньше занимал сбор контекста, после внедрения памяти — 2 минуты
- —10 человек — размер команды, чей совокупный опыт накапливает агент, поэтому его опыт растёт в 10 раз быстрее, чем у одного сотрудника
- —2 года — стаж работы с агентом у отдельного сотрудника, упомянутый в начале доклада
- —6–9 месяцев — прогноз, когда появятся автономные AI-компании с агентами, которые всё помнят
- Честно
- Спикер — основатель CentralAgent AI, и доклад подаёт архитектуру памяти его компании как готовое решение, поэтому это скорее презентация продукта, чем нейтральный обзор. Конкретных инструкций, кода или настроек нет: всё описано на уровне концепции, повторить по видео нельзя. Упоминания цены или открытого доступа нет.
Если слова незнакомы — 4 терминов
- агентпрограмма, которая сама выполняет задачи по инструкции
- контекствся информация, которую агент получает для ответа или действия
- retrievalизвлечение нужной информации из памяти по запросу
- промпттекстовое задание, которое человек пишет модели
Формат: разбор · для продвинутых · уверенность разметки 0.88 · источник