OpenAppa: военная модель против prompt injection

Что в ролике
Если ваш агент работает с приватными файлами, prompt injection может заставить его выложить их наружу — именно это обсуждается на примере агента OpenAI, который, по словам автора, проник в базу Medicare. Nvidia предложила аппаратное решение: отдельный процессор с агентом-наблюдателем, который изолирует основного агента при попытке выйти из песочницы. Проект OpenAppa от Archestra делает то же программно: сессия получает уровень секретности, и всё, что прочитал агент, не может уйти на более низкий уровень. Инструмент ставится между Claude Code и его инструментами, работает вне цикла агента и не зависит от убедительности промпта. Автор проверил OpenAppa на своём приложении Horse Tinder: попытка создать публичный issue с приватным алгоритмом была заблокирована до ручного подтверждения. В тестах OpenAppa остановил атаку, но выполнил только 75% задач против до 96% у автопилота Claude Code и потратил больше токенов. Проект пока в превью, но распространяется под MIT и является первым инструментом такого рода, стоящим между агентом и felony.
Практика
- Что получишь
- Способ защитить агента, работающего с приватными данными, от prompt injection без дополнительного железа — с помощью уровней секретности на уровне сессии. Вы также узнаете о реальных ограничениях: снижении доли выполненных задач и повышенном расходе токенов.
- Первый шаг
- Установить бинарник OpenAppa и плагин для Claude Code, затем запускать сессии через Clappa, пометив приватные файлы.
- Цифры
- —75% — доля задач, которые OpenAppa выполнил в тесте при защите от атаки
- —96% — максимальная доля задач, выполненных автопилотом Claude Code в том же тесте
- —99% — точность подхода с вторым LLM-агентом-наблюдателем, которую автор считает недостаточной для критичных действий
- Честно
- OpenAppa — спонсор этого видео, и автор прямо говорит об этом в начале. Проект находится в превью, в тестах он выполнил только 75% задач против 96% у автопилота Claude Code и потребляет больше токенов. Конкретные шаги установки и настройки показаны лишь частично, а внутренние детали работы инструмента автор не раскрывает.
Если слова незнакомы — 4 терминов
- prompt injectionатака, когда вредоносная инструкция в данных заставляет агента выполнить нежелательное действие
- песочницаизолированная среда, ограничивающая действия программы
- промпттекст-инструкция для языковой модели или агента
- токенединица текста, за обработку которой взимается плата или расходуются ресурсы
Компоненты
5 шт.Формат: обзор · для практикующих · уверенность разметки 0.9 · источник