Eliza 1966: первый чат-бот и его предупреждение

Что в ролике
История начинается с кода Eliza, который пролежал в коробке в MIT больше 50 лет и теперь снова запущен на Mac в эмуляторе мейнфрейма 1960-х. Автор повторяет разговор из статьи Джозефа Вейценбаума 1966 года: на фразу «Men are all alike» программа отвечает «In what way?», а механизм прост — Eliza ищет ключевое слово в реплике, меняет my/me на your/you и подставляет услышанное в шаблон ответа. Если программа не находит ключ, она отвечает «please go on» или возвращает ранее сохранённую фразу, а при вводе «you are 999 today» падает из-за бага в библиотеке SLIP, которая принимает число за адрес памяти. Знак вопроса на исходной системе стирал строку, поэтому пустая реплика заставляла Eliza вывести весь свой script и завершиться — по сути первую утечку системного промпта. Код восстановили по распечатке из архива MIT: около 2600 строк набрали вручную, одну функцию дописали заново, а после исправления опечатки (четыре нуля вместо пяти) 21 декабря 2024 года Eliza впервые за 60 лет провела диалог. Дальше автор переходит к предупреждению Вейценбаума: его секретарша просила оставить её наедине с программой, психиатры предлагали лечить сотни пациентов в час, и это назвали «эффектом Eliza». По данным OpenAI, около 0,15% из 800 миллионов еженедельных пользователей ChatGPT показывают повышенную эмоциональную привязанность, то есть больше миллиона человек, и автор считает, что предупреждение создателя стало только актуальнее.
Практика
- Что получишь
- Понимание, как на самом деле устроен первый чат-бот и почему люди склонны доверять машинам, даже зная, что это простые правила-зеркала. Это поможет трезвее смотреть на привязанность к современным ИИ-собеседникам.
- Первый шаг
- Если хотите запустить Eliza самому, возьмите открытый код по ссылкам из описания и загрузите doctor-скрипт из статьи 1966 года.
- Цифры
- —2600 строк кода Eliza восстановили по распечатке, найденной в коробке в MIT
- —96% кода, найденного в архиве, работает сегодня без изменений
- —0,15% из 800 миллионов еженедельных пользователей ChatGPT проявили повышенную эмоциональную привязанность — это больше миллиона человек
- Честно
- Ролик не продвигает платный продукт или спонсора: это разбор открытого кода, в конце автор просит подписаться на канал. Ссылки на код и архив MIT лежат в описании, а сам код в видео не публикуется. Все диалоги, ввод команд (плюс для обучения, вопросительный знак) и сообщения об ошибках показаны на экране, поэтому точные формулировки стоит смотреть в записи.
Если слова незнакомы — 4 терминов
- SLIPбиблиотека Eliza для работы со списками слов, из-за которой число в реплике воспринималось как адрес памяти
- системный промптслужебная инструкция, задающая поведение чат-бота поверх базовой модели или движка
- эффект Elizaсклонность людей приписывать программе понимание и доверять ей, даже зная, что это простые правила
- мейнфреймбольшой компьютер уровня 1960-х, занимавший целую комнату
Понадобится экран
Часть информации есть только на экране (код в терминале). Открыть на YouTube с 0:15.
Связки из этого ролика
2 шт.- Lisp
- BASIC
Компоненты
3 шт.Цитаты-доказательства
дословно из субтитровФормат: разбор · для практикующих · уверенность разметки 0.8 · источник