К содержимому
Дайджест

Shift left: пять принципов безопасности AI-кода

IBM Technology·14 сентября 2026·11:28
можно прочитать понять, как устроено
Открыть на YouTube
Разбор от практика IBM для команд, которые пишут код с помощью AI: пять принципов shift-left безопасности и объяснение, почему привычная проверка перед релизом больше не работает.

Что в ролике

Если ассистент за минуту выдаёт код, тесты и агентов, то схема «проверим безопасность перед релизом» перестаёт работать, и автор разбирает пять принципов, которые переносят проверки в начало работы. Первый принцип — доверять результату, а не факту генерации: код может компилироваться и проходить тесты, но при этом просить лишние права, выносить данные наружу или при сбое аутентификации падать в открытое небезопасное состояние. Второй принцип — встраивать безопасность в разработку, а не оставлять её чек-боксом в конце: ранняя находка бага дешевле поздней, а генерация за секунды превращает проверку на финише в узкое место. Третий принцип — проверять зависимости: пакеты, библиотеки и сервисы, которые AI добавил сам, нужно оценивать по репутации, уязвимостям, лицензии и целостности источника, потому что инциденты часто приходят из цепочки поставок, а не из логики приложения. Четвёртый принцип — валидировать намерение: технически красивый код может нарушать бизнес-правила и открывать финансовые данные тем, кому их видеть не положено, поэтому требования надо формулировать предельно ясно. Пятый принцип — делать безопасность непрерывной: поиск уязвимостей, мониторинг и патчи зависимостей, проверка политик и валидация изменений продолжаются и после релиза. К этому добавляется агентный слой: агентам нужны ограничения на действия, идентичности, чтобы было понятно, кто что сделал, контроль доступа и надзор человека, иначе они становятся усилителем риска. Как иллюстрацию он приводит случай, когда модель нашла zero-day в open-source операционной системе, и уязвимость пролежала незамеченной 27 лет.

Практика

Что получишь
Получите каркас из пяти принципов, по которому можно разложить свои проверки безопасности и увидеть, каких шагов не хватает в вашем процессе работы с AI-кодом.
Первый шаг
Возьмите один свой AI-сгенерированный сервис и проверьте не компиляцию, а результат: какие права он просит, что делает при сбое аутентификации и может ли вынести данные наружу.
Цифры
  • —5 принципов — столько правил shift-left безопасности разбирает автор
  • —27 лет — столько в открытой операционной системе скрывалась уязвимость, которую нашла AI-модель
  • —40 лет назад — с этого момента автор отсчитывает свою карьеру в разработке, чтобы показать масштаб перемен
  • —минута против дня — столько кода теперь генерируется за минуту по сравнению с прежним объёмом работы за целый день
Честно
Конкретных инструментов, команд и значений настроек в ролике нет — это объяснение принципов на словах, без демонстраций экрана, поэтому повторять по нему нечего. Своего продукта автор не продвигает, хотя канал принадлежит IBM, а примеры остаются гипотетическими. Сканеры секретов, анализаторы зависимостей и средства контроля доступа придётся подбирать самому.
Если слова незнакомы — 6 терминов

Формат: разбор · для практикующих · уверенность разметки 0.9 · источник