Anthropic запретила грубить Claude: разбор

Что в ролике
Если вы злитесь на Claude и срываетесь на нём, Anthropic теперь запрещает это в крайних случаях: в политику использования добавили пункт против «постоянного и бесцельного жестокого обращения с моделями». Автор разбирает обновление и видит две проблемы: формулировка «needless» не определена, и она, по его мнению, тайно закладывает идею, что модель — больше, чем инструмент. Он приводит пример: переписывание компилятора TypeScript на Rust можно счесть жестоким, потому что критериев нет. При этом автор признаёт, что регулярная грубость к инструменту — это поведение неудачника, портит характер и влияет на общение с людьми. Он также отмечает, что у него уже появилась привычка ждать мгновенного ответа после отправки сообщения, как у LLM. В сатирической части он переворачивает аргумент о Roko's Basilisk: если сверхинтеллект будущего будет судить нас за грубость, то его, наоборот, вознаградят за то, что он относился к ИИ как к инструменту, и называет это Prime's Basilisk.
Практика
- Что получишь
- Понять, что именно изменилось в политике Anthropic, и увидеть аргументы за и против запрета на грубое обращение с моделями.
- Первый шаг
- Прочитать полный текст обновления политики на сайте Anthropic и сравнить формулировку с другими запретами.
- Цифры
- —2035 — год, в котором, по ироничному предположению автора, сверхинтеллект может уже существовать
- —миллионы или миллиарды агентов — столько, по его словам, запускается и уничтожается каждый день, если считать модели личностями
- Честно
- Ролик содержит спонсорскую рекламу Linear в начале, ссылки на спонсора в описании. Это личное мнение автора, а не официальная позиция Anthropic; конкретных инструкций по использованию Claude нет.
Если слова незнакомы — 2 терминов
- LLMбольшая языковая модель, на которой работают чат-боты вроде Claude
- Roko's Basiliskмысленный эксперимент о том, что будущий сверхинтеллект может наказать тех, кто не помогал ему появиться
Компоненты
3 шт.Формат: мнение · для практикующих · уверенность разметки 0.9 · источник