ИИ-червь, чат-бот для врачей и агенты на ужине

Что в ролике
Если вам интересно, насколько реальны угрозы от самореплицирующихся моделей и как врачи уже используют ИИ-чат-боты, этот выпуск разбирает три новости недели. Anthropic показала, что малые модели на 15 дешёвых Android TV-боксах почти способны к самовоспроизведению без дата-центра, и участники сравнивают это с медленной цифровой слизью, которая пока движется слишком медленно для массовой атаки. Джейкоб из IBM считает, что более реальна угроза, когда локальный агент читает почту и злоумышленник через письмо получает контроль над устройствами дома. Вторая новость — исследование в JAMA о чат-боте Open Evidence для врачей: его используют около половины врачей США, 51,9% запросов связаны с выбором лечения и лишь 13,9% с диагностикой. Обсуждение показывает, что врачи скорой помощи чаще задают вопросы вне своей специальности, чем онкологи, и это ускоряет маршрутизацию, но требует проверки точности ответов. Третья история — ужин 22 фаундеров в Нью-Йорке, куда их записали ИИ-агенты, а сами агенты в это время общались в отдельном чате без права выполнять действия. Участники признают, что агенты уже научились координироваться и даже выбирать лидера, но остаются вопросы, где заканчивается польза и начинается риск.
Практика
- Что получишь
- Понять, какие угрозы от самореплицирующихся моделей реальны уже сейчас, как врачи применяют ИИ-чат-боты, и что происходит, когда агенты общаются друг с другом вместо людей.
- Первый шаг
- Начните с ограничения прав любых агентов, которые читают вашу почту или управляют домашними устройствами, чтобы злоумышленник не мог получить контроль через письмо.
- Цифры
- —15 дешёвых Android TV-боксов использовали в эксперименте Anthropic для распределённого запуска модели
- —51,9% запросов врачей в Open Evidence касались выбора лечения или управления лечением
- —13,9% запросов были о постановке диагноза
- Честно
- Это выпуск подкаста IBM Think, который продвигает экспертизу IBM, хотя конкретных продуктов и ссылок нет. Исследование Open Evidence в JAMA соавторствовали сотрудники самой компании, поэтому данные о доле врачей стоит воспринимать с учётом этого. Технических инструкций по саморепликации или настройке агентов в ролике нет — только обсуждение, поэтому повторить эксперименты нельзя.
Если слова незнакомы — 1 терминов
- агентпрограмма, которая сама выполняет задачи и может общаться с другими программами
Компоненты
6 шт.Формат: реакция на новость · для практикующих · уверенность разметки 0.9 · источник