К содержимому
Дайджест

Агентная инфраструктура: sandbox, хранилище и масштаб

AI Engineer·7 ноября 2026·17:35
можно прочитать понять, как устроено промо
Открыть на YouTube
Технический доклад CTO Modal о том, какие примитивы нужны агентной инфраструктуре и как платформа Modal их закрывает.

Что в ролике

Финансовому аналитику, который хочет прогнать сложный анализ по всем компаниям портфеля, раньше требовались дни ручной работы, а теперь таблица Heavy AI запускает отдельного агента на каждую ячейку. Каждый такой агент работает в sandbox Modal — изолированной среде, где исполняется ненадёжный код, и внутри одного sandbox можно запускать несколько контейнеров или micro VM, включая sidecar. Агенту нужно постоянное рабочее пространство с кодом, зависимостями и документами, которое сохраняется между запусками, но compute выключается, когда агент ждёт ответа. Нагрузка у агентов сильно меняется: в примере Ramp Inspect пиковое потребление доходило бы до 15 ядер CPU и 15 ГБ RAM, если резервировать под максимум, поэтому Modal отдаёт ресурсы по требованию. Помимо CPU агентам нужны GPU и другие ускорители: Cloud Science выгружает вычисления в sandbox Modal, а в блоге Modal агент сам подбирал GPU и запускал абляции при обучении модели. Для безопасности нужно ограничивать домены и пути, к которым обращается агент, а также прятать учётные данные, чтобы агент не мог их украсть; для этого используют sidecar-прокси. Масштаб Modal — 20 млн снапшотов в неделю, 8 петабайт данных в день и 2,6 млн томов в неделю, а один клиент запускает почти миллион sandbox за раз с интерактивностью меньше секунды. Автор предостерегает от vibe coding собственной sandbox-платформы из-за сложности надёжности, безопасности и масштаба и предлагает разделять «мозги» агента (harness) и «руки» (sandbox).

Практика

Что получишь
Поймёте, какие базовые примитивы нужны агентным системам — изолированные среды, сохраняемые рабочие пространства, эластичные ресурсы и масштабирование — и сможете оценивать чужие платформы.
Первый шаг
Изучить документацию Modal по sandbox и volumes и попробовать запустить одного агента в sandbox с общим томом.
Цифры
  • —20 млн снапшотов в неделю обрабатывает Modal
  • —8 петабайт данных в день проходит через эти снапшоты
  • —2,6 млн томов в неделю создают пользователи Modal
  • —10 000 sandbox в секунду нужно создавать для одного клиентского workload персонального ассистента
Честно
Это продуктовый доклад CTO Modal, продвигающий платформу Modal; все примеры — клиенты Modal, а цифры о масштабе даны самой компанией. Повторить увиденное без экрана не получится: конкретные команды, архитектурные схемы и значения настроек показаны только на слайдах, в речи их нет. Ссылок на блоги и репозитории в транскрипте не названо, за деталями предлагают обращаться к авторам.
Если слова незнакомы — 7 терминов

Связки из этого ролика

4 шт.

Компоненты

8 шт.

Формат: разбор · для продвинутых · уверенность разметки 0.9 · источник