Агентский харнесс для AML-банка: память и скиллы

Что в ролике
Автор начинает с тезиса: вместо того чтобы делать ставку только на frontier-модели, полезнее строить агентский харнесс — управляемую обвязку вокруг модели из памяти, инструментов, восприятия и агентского цикла. В качестве примера он разбирает средний банк, где автономный агент должен находить подозрительные транзакции и готовить отчёты для человека, но сам ничего не блокирует. В харнесс входят несколько слоёв: краткосрочная память контекстного окна, долговременная память с эпизодическими, процедурными и семантическими воспоминаниями, а также семантический слой для непроговорённого контекста. Чтобы не забивать контекст, инструменты и скиллы векторизуются и хранятся в отдельных векторных сторах; агентский цикл на каждой итерации подбирает по три наиболее релевантных скилла и инструмента, а затем выгружает их. Ещё один приём — дистилляция скиллов: из прошлых успешных разговоров создают маленькие skill-файлы с предпочтениями, которые потом всплывают при похожей задаче. В демо агент работает на модели Groq в Oracle Cloud, подключён к базе фейкового банка и автоматически обновляет список подозрительных операций, а интерфейс показывает его контекстное окно и 30 последних событий. По словам автора, качество одной и той же frontier-модели сильно зависит от харнесса, а не только от размера модели, и именно данные — та часть, которую инженер может реально контролировать.
Практика
- Что получишь
- Понять, из каких компонентов состоит агентский харнесс, и увидеть рабочую схему, которую можно повторить для собственных задач с базой данных и автономным агентом.
- Первый шаг
- Зайти на workshopwaitingroom.com, авторизоваться через GitHub и создать CodeSpace по приглашению, затем открыть ноутбук student и пройти первую ячейку с подключением к базе.
- Цифры
- —8 шагов и 60 секунд на итерацию — ограничение агентского цикла в воркшопе
- —3 скилла и 3 инструмента — по умолчанию агентский цикл подбирает из векторных сторов на каждый шаг
- —80% токенов запроса — сколько занимают инструменты и найденные документы; это 35–100 тыс. токенов
- —256 000 токенов — уровень контекста, при котором модель решает задачу заметно хуже, чем с нуля; предел сейчас около 1 млн
- Честно
- Автор — сотрудник Oracle, демо работает на Oracle Cloud и модели Groq, а в конце он зовёт к стенду Oracle; также он упоминает бесплатный курс с Andrew Ng. Материалы воркшопа доступны через GitHub-приглашение и CodeSpaces, но расходы на окружение берёт на себя автор. Данные в демо фейковые, а повторение требует просмотра ноутбука и интерфейса.
Если слова незнакомы — 7 терминов
- агентский харнессобвязка вокруг модели: память, инструменты, восприятие и цикл, которые управляют её работой
- контекстное окномаксимальный объём текста, который модель видит в одном запросе
- векторный сторхранилище числовых представлений текста для поиска по смыслу
- скиллфайл-инструкция с навыком или предпочтениями, который агент подгружает под задачу
- агентский циклповторяющийся процесс: собрать контекст, вызвать модель, выполнить инструменты и повторить
- дистилляция скилловпревращение прошлых успешных сессий в компактные скиллы для повторного использования
- токенминимальная единица текста, которую модель обрабатывает и за которую обычно платит пользователь
Связки из этого ролика
6 шт.- agent stack
- rag
- llm driven workflows
- ai agents
- agentic systems
- vector store
Компоненты
12 шт.Формат: пошаговый урок · для практикующих · уверенность разметки 0.85 · источник