ИИ в банке: сначала найдите владельцев решений

Что в ролике
Если ваше ИИ-демо в банке не доходит до продакшена, дело часто не в модели, а в невыясненных владельцах решений: спикер показывает, что данные, модельный риск, сторонние зависимости и аудит — это четыре вида решений, от которых зависит запуск. По каждому из них нужно найти человека, который назовёт решение, нужные доказательства и следующий шаг, причём начинать стоит до проектирования, потому что любое изменение владельца меняет границы системы. На этапе скоупинга он предлагает три приёма — shadow, draft и shrink: посидеть с аналитиком, набросать спецификацию из конкретных шагов «проверить документы, подготовить исключения, отправить» и последовательно сокращать объём до минимального полезного. Дальше он вводит лестницу автономии из четырёх ступеней — suggest, draft, acts with approval, acts — и советует начинать с самой нижней, которая уже создаёт ценность, например, чтобы модель только подсвечивала вероятное исключение, а аналитик проверял и отправлял форму. Для оценки он требует собирать пакет доказательств из пяти файлов: intended use, data lineage, failure modes, results by segment, controls, и при каждом прогоне сохранять промпт, версию модели, конфигурацию, вывод, действие ревьюера. Вместо средних метрик нужно разбивать результаты по сегментам — чистые документы, сканы, редкие исключения, новые типы — и показывать самый слабый результат. К пятнице спикер предлагает получить пять ответов: вовлечён ли владелец данных, названы ли прод-среда и администраторы, может ли спонсор описать рабочий процесс без слова ИИ, вписывается ли минимальный объём в существующие контроли, и кто подписывает риск-ревью; по числу «да» от нуля до пяти можно понять, куда тратить следующую неделю.
Практика
- Что получишь
- Понятную схему, как за первую неделю найти всех, от кого зависит запуск ИИ в регулируемой организации, и превратить неопределённость в список решений с именами и сроками. Ещё вы получите способ оценки модели, который собирает доказательства для риск-команды, а не только показывает метрики качества.
- Первый шаг
- Взять пять вопросов из финального чек-листа доклада и к пятнице получить по ним ответы от владельцев данных, платформы, рисков и аудита.
- Цифры
- —пять ответов к пятнице — столько пунктов чек-листа нужно закрыть, чтобы понять, куда тратить следующую неделю
- —четыре или пять «да» — такой результат чек-листа означает вероятный путь к запуску
- —от 0 до 2 «да» — при таком результате нужно сначала решить неопределённости и, возможно, сократить или переопределить скоуп
- —четыре ступени автономии — от suggest до acts, на каждой меняются последствия ошибки и требуемые контроли
- Честно
- Спикер рекламирует свою будущую книгу для O'Reilly и приглашает в LinkedIn и на сайт painting.com, но сам материал — методический доклад без платных вставок. Примеры в докладе гипотетические, а все схемы и формулировки вопросов показаны на слайдах, поэтому для повторения часть деталей нужно будет восстанавливать по видео.
Если слова незнакомы — 5 терминов
- shadowнаблюдение за реальной работой исполнителя, чтобы построить спецификацию
- draftчерновик спецификации или результата, который проверяет человек
- shrinkуменьшение объёма первой версии до минимально полезного
- прод-средабоевое окружение, где система работает с реальными данными и пользователями
- риск-ревьюформальная проверка модели и её использования на соответствие требованиям риск-менеджмента
Формат: разбор · для продвинутых · уверенность разметки 0.9 · источник