Как США строят правила для ИИ: открытые веса и регуляторы

Что в ролике
Если вы пытаетесь понять, куда движется регулирование ИИ в США, эта панель с саммита Runway даёт срез сразу с трёх сторон: офис губернатора Калифорнии, разработчик открытых весов и бывший председатель FTC. Вивек Вишванатан говорит, что у США всё ещё сильные позиции по капиталу, чипам и талантам, но за прошедшие с выхода ChatGPT 3,5 четыре года накопился дефицит доверия, и вопрос уже не в том, регулировать ли ИИ, а как. Бен Брукс из Black Forest Labs приводит масштаб: около 800 законопроектов по ИИ в Конгрессе и 1500–2000 на уровне штатов, но консенсуса нет, а фокус на катастрофических рисках отвлекает от дипфейков, мошенничества и кибератак. Морин Олхаузен напоминает, что старый закон FTC уже позволяет преследовать обман и существенный вред потребителям, а вчерашнее соглашение крупных компаний и Nvidia в Белом доме — это добровольные индивидуальные шаги, при нарушении которых FTC может начать дело. Калифорния уже требует по SB 53 от разработчиков фронтирных моделей публиковать правила безопасности, сообщать о критических инцидентах и защищать осведомителей, а новый указ губернатора рассматривает обязательные сторонние проверки и kill switch. Брукс защищает открытые веса: их можно инспектировать, дообучать и запускать в приватной среде, и утверждает, что модели Black Forest Labs показали в 10 раз меньше уязвимостей, чем открытые китайские аналоги. Главный спор о регулировании — не 50 разных законов или один федеральный, а содержание правил: поддержат ли они открытые инновации и конкуренцию или создадут барьер для небольших игроков.
Практика
- Что получишь
- Картину трёх уровней регулирования ИИ в США — штат, федерация и отраслевые соглашения — и аргументы, почему открытые веса могут быть не только риском, но и способом снизить зависимость от двух-трёх крупных лабораторий.
- Первый шаг
- Проверьте, попадает ли ваша модель или продукт под требования калифорнийского SB 53: нужно ли публиковать safety framework и сообщать о критических инцидентах.
- Цифры
- —800 законопроектов по ИИ в Конгрессе и 1500–2000 на уровне штатов за текущую сессию — масштаб регуляторного потока
- —4 года прошло с релиза ChatGPT 3,5 в 2022 году, а всеобъемлющего федерального закона об ИИ в США так и нет
- —В 10 раз меньше уязвимостей у открытых весов Black Forest Labs по сравнению с китайскими, по данным их ре-тестинга
- —3 из 6 самых популярных открытых моделей всех времён на Hugging Face соразработали основатели Black Forest Labs
- Честно
- Это панельная дискуссия с саммита Runway, а не инструкция: спикеры делятся позициями своих организаций, и Бен Брукс рассказывает об открытых моделях Black Forest Labs как о примере; конкретные тексты SB 53, указа губернатора и вчерашнего соглашения Белого дома в ролике не показаны, для практических шагов их придётся искать отдельно. Прямой рекламы платных продуктов нет.
Если слова незнакомы — 5 терминов
- открытые весамодели, которые можно скачивать, запускать на своих серверах и дообучать, а не только вызывать через API
- фронтирные моделисамые передовые и мощные ИИ-модели на текущий момент
- kill switchмеханизм аварийного отключения модели, если её поведение становится опасным
- SB 53калифорнийский закон, обязывающий разработчиков фронтирных моделей публиковать правила безопасности и сообщать о критических инцидентах
- FTCФедеральная торговая комиссия США, которая следит за защитой потребителей и конкуренцией
Формат: интервью · для бизнеса · уверенность разметки 0.8 · источник