Почему большое контекстное окно не спасёт агента

Что в ролике
Контекстное окно агента не резиновое: когда инструмент возвращает много логов, агент переполняет окно и начинает галлюцинировать. Инженер AWS Элизабет Фуэнтес Леоне на примере открытого фреймворка Strands, работающего поверх Amazon Bedrock, показывает, что решают это не добавлением токенов, а контекстной инженерией: вынести, выбрать, сжать. Внутри Strands для управления историей есть три стратегии: скользящее окно, суммаризация и их комбинация, причём суммаризация сжимает 50% истории и сохраняет последние 4 сообщения. Для долгой памяти фреймворк использует векторную базу, а связи между сущностями можно хранить в графе. Если инструмент возвращает большие данные, автор советует не класть их в контекст, а сохранить во внешнее хранилище и вернуть агенту только указатель по ID. В многоагентных системах она рекомендует не шарить общий контекст между агентами, а передавать memory pointer через состояние вызова. Чтобы агент не зацикливался на одном инструменте, в Strands можно ограничить число вызовов, например тремя, и дать инструменту чёткий ответ. Для долгих MCP-вызовов вместо синхронного ожидания используется асинхронный обработчик: задача запускается, а ответ забирается в следующем вызове.
Практика
- Что получишь
- Понимание, что увеличение контекстного окна не решает проблему агентов, и набор конкретных техник: суммаризация, скользящее окно, memory pointer, лимиты на вызовы и асинхронные MCP. Плюс знакомство с открытым фреймворком Strands, где эти техники уже встроены.
- Первый шаг
- Поставить Strands и одной строкой включить в агентном цикле стратегию суммаризации с параметром 0,5 и сохранением последних четырёх сообщений.
- Цифры
- —50% — доля истории, которую Strands сжимает в стратегии суммаризации
- —4 — столько последних сообщений автор советует сохранять при суммаризации
- —3 — максимум вызовов одного инструмента, чтобы агент не зацикливался
- Честно
- Автор — сотрудница AWS и продвигает открытый фреймворк Strands; это доклад с конференции, где в конце она зовёт к стенду с мерчем. Все примеры кода показаны только на слайдах, и в пересказе их недостаточно для повторения — нужно искать документацию Strands. Обещанную колоду слайдов в транскрипте найти нельзя.
Если слова незнакомы — 5 терминов
- контекстное окнообъём текста и данных, который модель держит в памяти в текущем разговоре
- контекстная инженерияуправление содержимым окна: отбор, сжатие и вынос данных, чтобы агент получал только нужное
- векторная базахранилище, где данные представлены в виде векторов для поиска по смыслу
- memory pointerуказатель на данные во внешнем хранилище, который агент хранит вместо самих данных
- MCPModel Context Protocol, способ подключать внешние инструменты и API к агенту
Понадобится экран
Часть информации есть только на экране (код в терминале). Открыть на YouTube с 5:16.
Связки из этого ролика
2 шт.- Strands + Amazon Bedrock
- FastAPI + MCP
Компоненты
7 шт.Цитаты-доказательства
дословно из субтитровФормат: разбор · для практикующих · уверенность разметки 0.85 · источник