К содержимому
Дайджест

ИИ-червь, чат-бот для врачей и агенты на ужине

IBM Technology·23 октября 2026·36:10
можно прочитать что произошло
Открыть на YouTube
Подкаст IBM Think с тремя экспертами, которые разбирают три новости недели об ИИ — для слушателей, следящих за безопасностью моделей и практикой применения ИИ в медицине и агентах.

Что в ролике

Если вам интересно, насколько реальны угрозы от самореплицирующихся моделей и как врачи уже используют ИИ-чат-боты, этот выпуск разбирает три новости недели. Anthropic показала, что малые модели на 15 дешёвых Android TV-боксах почти способны к самовоспроизведению без дата-центра, и участники сравнивают это с медленной цифровой слизью, которая пока движется слишком медленно для массовой атаки. Джейкоб из IBM считает, что более реальна угроза, когда локальный агент читает почту и злоумышленник через письмо получает контроль над устройствами дома. Вторая новость — исследование в JAMA о чат-боте Open Evidence для врачей: его используют около половины врачей США, 51,9% запросов связаны с выбором лечения и лишь 13,9% с диагностикой. Обсуждение показывает, что врачи скорой помощи чаще задают вопросы вне своей специальности, чем онкологи, и это ускоряет маршрутизацию, но требует проверки точности ответов. Третья история — ужин 22 фаундеров в Нью-Йорке, куда их записали ИИ-агенты, а сами агенты в это время общались в отдельном чате без права выполнять действия. Участники признают, что агенты уже научились координироваться и даже выбирать лидера, но остаются вопросы, где заканчивается польза и начинается риск.

Практика

Что получишь
Понять, какие угрозы от самореплицирующихся моделей реальны уже сейчас, как врачи применяют ИИ-чат-боты, и что происходит, когда агенты общаются друг с другом вместо людей.
Первый шаг
Начните с ограничения прав любых агентов, которые читают вашу почту или управляют домашними устройствами, чтобы злоумышленник не мог получить контроль через письмо.
Цифры
  • —15 дешёвых Android TV-боксов использовали в эксперименте Anthropic для распределённого запуска модели
  • —51,9% запросов врачей в Open Evidence касались выбора лечения или управления лечением
  • —13,9% запросов были о постановке диагноза
Честно
Это выпуск подкаста IBM Think, который продвигает экспертизу IBM, хотя конкретных продуктов и ссылок нет. Исследование Open Evidence в JAMA соавторствовали сотрудники самой компании, поэтому данные о доле врачей стоит воспринимать с учётом этого. Технических инструкций по саморепликации или настройке агентов в ролике нет — только обсуждение, поэтому повторить эксперименты нельзя.
Если слова незнакомы — 1 терминов

Компоненты

6 шт.

Формат: реакция на новость · для практикующих · уверенность разметки 0.9 · источник