Агентная инфраструктура: sandbox, хранилище и масштаб

Что в ролике
Финансовому аналитику, который хочет прогнать сложный анализ по всем компаниям портфеля, раньше требовались дни ручной работы, а теперь таблица Heavy AI запускает отдельного агента на каждую ячейку. Каждый такой агент работает в sandbox Modal — изолированной среде, где исполняется ненадёжный код, и внутри одного sandbox можно запускать несколько контейнеров или micro VM, включая sidecar. Агенту нужно постоянное рабочее пространство с кодом, зависимостями и документами, которое сохраняется между запусками, но compute выключается, когда агент ждёт ответа. Нагрузка у агентов сильно меняется: в примере Ramp Inspect пиковое потребление доходило бы до 15 ядер CPU и 15 ГБ RAM, если резервировать под максимум, поэтому Modal отдаёт ресурсы по требованию. Помимо CPU агентам нужны GPU и другие ускорители: Cloud Science выгружает вычисления в sandbox Modal, а в блоге Modal агент сам подбирал GPU и запускал абляции при обучении модели. Для безопасности нужно ограничивать домены и пути, к которым обращается агент, а также прятать учётные данные, чтобы агент не мог их украсть; для этого используют sidecar-прокси. Масштаб Modal — 20 млн снапшотов в неделю, 8 петабайт данных в день и 2,6 млн томов в неделю, а один клиент запускает почти миллион sandbox за раз с интерактивностью меньше секунды. Автор предостерегает от vibe coding собственной sandbox-платформы из-за сложности надёжности, безопасности и масштаба и предлагает разделять «мозги» агента (harness) и «руки» (sandbox).
Практика
- Что получишь
- Поймёте, какие базовые примитивы нужны агентным системам — изолированные среды, сохраняемые рабочие пространства, эластичные ресурсы и масштабирование — и сможете оценивать чужие платформы.
- Первый шаг
- Изучить документацию Modal по sandbox и volumes и попробовать запустить одного агента в sandbox с общим томом.
- Цифры
- —20 млн снапшотов в неделю обрабатывает Modal
- —8 петабайт данных в день проходит через эти снапшоты
- —2,6 млн томов в неделю создают пользователи Modal
- —10 000 sandbox в секунду нужно создавать для одного клиентского workload персонального ассистента
- Честно
- Это продуктовый доклад CTO Modal, продвигающий платформу Modal; все примеры — клиенты Modal, а цифры о масштабе даны самой компанией. Повторить увиденное без экрана не получится: конкретные команды, архитектурные схемы и значения настроек показаны только на слайдах, в речи их нет. Ссылок на блоги и репозитории в транскрипте не названо, за деталями предлагают обращаться к авторам.
Если слова незнакомы — 7 терминов
- sandboxизолированная среда для запуска ненадёжного кода
- micro VMлёгкая виртуальная машина, которая даёт дополнительную изоляцию внутри sandbox
- sidecarвспомогательный процесс или контейнер рядом с основным, например прокси для контроля доступа
- harnessцикл агента, который вызывает модель, инструменты и управляет итерациями
- volumeпостоянное файловое хранилище, которое можно монтировать в sandbox и разделять между агентами
- snapshotснимок состояния файловой системы, позволяющий быстро восстановить окружение
- vibe codingсоздание кода с помощью AI без глубокого проектирования, часто приводящее к ненадёжным системам
Связки из этого ролика
4 шт.- Modal Sandboxes
- Modal Volumes
- microVMs
- containers
Компоненты
8 шт.Формат: разбор · для продвинутых · уверенность разметки 0.9 · источник