Как экс-инженер Apple строит защиту от ИИ-атак

Что в ролике
Выпуск спонсируют PostHog и собственный проект ведущего Cloudroom, но большую часть занимает разговор о том, как открытые модели без ограничений меняют кибербезопасность: атакующий ИИ будет соревноваться с защищающим, и компании без своего ИИ-стека проиграют. Гость Дэниел, экс-инженер Apple, показывает LifeOS — личную систему, которая собирает проекты, заметки, закладки из Twitter и голосовые записи с носимого устройства Bee Computer в единый контекст, чтобы агенты понимали его с полуслова. Для каждого приложения он заводит ISA-документ — единственный источник истины с целью, шагами и проверками, который синхронизируется с кодом. Задачи роутит кастомный роутер на базе модели Jev: он выбирает одну из четырёх моделей OpenAI в зависимости от сложности. Bunker автоматически атакует все развёрнутые проекты и гоняет около 1 500 проверок в час. Компаниям Дэниел советует сначала собрать контекстные домены и процессы, иначе внедрение ИИ не сработает, а для снижения зависимости от одного вендора — арендовать выделенные GPU у стороннего провайдера. Отдельным людям он рекомендует узнать, что о них знает интернет через сервисы типа DeleteMe, и почистить цифровой след, потому что открытые модели смогут автоматизировать сбор компромата.
Практика
- Что получишь
- Понимание, как выстроить защиту от автоматизированных атак, и конкретные шаги для внедрения ИИ-агентов с собственным контекстом и тестами.
- Первый шаг
- Начать собирать контекст о себе и своих проектах: выяснить через сервисы типа DeleteMe, что о вас знает интернет, и описать один рабочий процесс в виде ISA-документа.
- Цифры
- —154 звезды — столько набрал репозиторий Cloudroom Core на GitHub на момент записи
- —1 500 проверок в час — столько автоматических проверок прогоняет система Bunker
- —5 300 источников — столько парсит новостное приложение Surface
- —80% — порог заполненности ISA-документа, после которого агент начинает строить проект
- Честно
- Ведущий Дэвид дважды прерывается на рекламу: спонсор PostHog и его собственный проект Cloudroom (GUI open-source, облако по инвайтам). Гость Дэниел продвигает свои продукты — сайт danielis.com, LifeOS и приложение Vector для компаний. Многое показано только на экране: интерфейс LifeOS, команды, ISA-документы, роутер и проверки Bunker; повторить без доступа к этим закрытым системам не получится. В ролике нет готовых инструкций, только демонстрация личного сетапа.
Если слова незнакомы — 4 терминов
- агентпрограмма, которая сама выполняет задачи за пользователя
- ISA-документединый документ с целью, шагами и проверками для отдельного приложения
- роутеркомпонент, который выбирает модель или агента для выполнения запроса
- контекстнакопленная информация о пользователе и проектах, которую агент использует для ответа
Связки из этого ролика
4 шт.- Cloudflare Workers
- OpenAI model router
- Anthropic models
- LifeOS + Jev
Компоненты
12 шт.Формат: интервью · для продвинутых · уверенность разметки 0.82 · источник