Агентный харнесс с открытым кодом вместо облака

Что в ролике
Агентные каркасы делятся на три вида: кодинговые вроде Claude Code и Codex, сборные фреймворки вроде LangGraph и Agent SDK, где цикл пишешь сам, и облачные managed-агенты, где провайдер берёт на себя сессии, инструменты и песочницы. Автор показывает четвёртый вариант — открытый каркас TrueForge от True Foundry под лицензией MIT, который ставится одной командой, хранит сессии в локальной базе SQLite и работает с любой моделью. Главный аргумент — цифры бенчмарка на 14 задачах из корпоративного набора DevRev, где агент сводит данные из CRM, трекера задач, хранилища документов и нескольких MCP-серверов: на одной и той же модели Claude Opus разные каркасы дали разный расход токенов, потому что именно каркас решает, сколько вызовов инструментов попадёт в контекст. В замере облачные managed-агенты тратили около 10 миллионов токенов на прогон против 3,8 миллиона у TrueForge при той же точности, то есть 30% экономии на той же модели, а с более дешёвой GLM 5.2 экономия дошла до 75%. Второй аргумент — независимость: описание агента, системный промпт, набор инструментов, правила подтверждений и история сессий остаются у вас, поэтому возможны локальный запуск, нулевое хранение данных и требования комплаенса, которые облачные managed-сервисы не проходят. В интерфейсе настраиваются модели — автор подключил свой эндпоинт с DeepSeek Flash 4.1 и упоминает запуск локальных моделей через Ollama и LM Studio, — а также коннекторы вроде поиска Tavily и DeepWiki, скиллы и песочницы. Дальше он собирает агента для AI-новостей за последние 48–72 часа: агент сам догадался использовать Tavily, сходил на сайт издания, а из настроек автор отключил генеративный интерфейс и уточняющие вопросы, чтобы получать готовый результат. Готовый агент вызывается из Python-скрипта одной командой, а в планах разработчиков — подключение шлюза, локальные песочницы и изоляция через Docker.
Практика
- Что получишь
- Карту из четырёх видов агентных каркасов и понимание, что расход агента определяет в первую очередь каркас, а не только модель, плюс список того, что настраивается при локальном запуске.
- Первый шаг
- Поставить TrueForge по инструкции из репозитория в локальном режиме и подключить свою модель, чтобы прогнать знакомую задачу и сравнить расход токенов с облачным managed-агентом.
- Цифры
- —10 миллионов против 3,8 миллиона токенов — столько тратили на один прогон облачные managed-агенты и TrueForge на одной и той же модели Opus
- —30% экономии — столько дал другой каркас на той же модели при той же точности ответов
- —75% — до столького выросла экономия, когда тот же набор задач перенесли на модель GLM 5.2
- —14 задач и три прогона на каждую — размер замера из корпоративного бенчмарка DevRev, который оценивал слепой LLM-судья
- Честно
- Ролик спонсирован True Foundry, создателями TrueForge, и автор говорит об этом прямо в начале; платного тарифа в показанном нет, единственная просьба — поставить звезду репозиторию на GitHub. Цифры экономии взяты из замера самой компании, независимой проверки в ролике нет. Команда установки, содержимое системного промпта и код Python-клиента видны только на экране — в речи они не называются, поэтому для повторения придётся смотреть видео.
Если слова незнакомы — 8 терминов
- харнессобвязка вокруг модели: она запускает цикл работы агента, даёт ему инструменты и хранит сессию
- managed agentsагенты, которые крутятся на серверах провайдера: вы описываете агента, а цикл и песочницы обслуживает сервис
- MCP-серверподключаемый источник инструментов и данных для агента
- песочницаизолированная среда, где агент выполняет код, не задевая остальную систему
- системный промптпостоянная инструкция, которая описывает агенту его роль и правила
- скиллпапка с файлом инструкции, которую агент подключает как готовое умение
- контекствсё, что агент отправляет модели за один шаг: инструкции, история и вывод инструментов
- открытые весамодель, файлы которой можно запускать у себя, а не только через API вендора
Понадобится экран
Часть информации есть только на экране (код в терминале). Открыть на YouTube с 10:57.
Связки из этого ролика
8 шт.- TrueForge + DeepSeek Flash 4.1 — локальный запуск агента на своём API-эндпоинте вместо моделей провайдера
- TrueForge + Tavily — агент сам подключает поисковый коннектор для свежих новостей
- TrueForge + DeepWiki/MCP-серверы — подключение внешних источников знаний и инструментов
- TrueForge + Ollama/LM Studio — запуск агентов на локальных моделях
- TrueForge + SQLite (локальный режим) — хранение сессий на своей машине без облака
- TrueForge + Python-клиент (uv run main.py) — вызов локального агента из скрипта и стриминг результата
- Claude Opus + разные харнессы — сравнение стоимости: 3,8 млн против 10 млн токенов при той же точности
- TrueForge + gateway True Foundry (роадмап) — управление моделями и MCP на уровне шлюза
Компоненты
26 шт.Цитаты-доказательства
дословно из субтитров- We're just going to go to the readme docs and see go to the quick start and then I'm going to just install this locally to get started.10:57
- If we look at this, it's just going to basically call the local host version of this.17:41
- So, you can see I've got my prompt there.14:46
- Here I've configured up my own API endpoint to run DeepSeek Flash 4.1.11:44
Формат: разбор · для продвинутых · уверенность разметки 0.83 · источник