К содержимому
Дайджест

Скрытая строка заставляет ChatGPT и Claude отказываться

Better Stack·1 ноября 2026·6:34
текст даёт основное что произошло
Открыть на YouTube
Технический разбор скрытых строк, которые заставляют большие языковые модели отказываться, для инженеров и специалистов по безопасности.

Что в ролике

Если вы попросите модель разобрать подозрительный скрипт, она может просто отказаться — именно так работает файл, найденный в топ-10 000 сайтов. Исследователь декодировал невидимые символы: там оказался набор из тем-триггеров для фильтров безопасности, включая упоминание площади Тяньаньмэнь, чтобы остановить и китайские модели. Автор повторил проверку на закрытых моделях — GPT-6 Astra сразу заблокировал файл из-за возможного биологического риска, а Claude Opus 5,5 и Fable 5,1 обрывались фильтрами после нескольких тысяч знаков. Открытые модели DeepSeek, GLM и Kimi спокойно выполнили задачу, причём GLM нашёл спрятанное сообщение, адресованное ему, и проигнорировал его. Сам скрипт оказался стандартным антибот-трекером, который связывают с российской антибот-компанией ServicePipe, а его «зловредный» блок исследователи посчитали обманкой. Защитники используют похожий приём: Tracebit размещает в своих канарейках «контекстные бомбы», и в их тестах такие бомбы снижали долю успешных атак с полным доступом с 57% до 5%. Проблема в том, что фильтры не отличают атакующего от защитника: после взлома Hugging Face провайдер заблокировал расследование инцидента, и команда разбирала 17 000+ действий атакующего с помощью собственного хостинга GLM 5,2.

Практика

Что получишь
Поймёте, почему закрытые модели блокируют разбор даже безобидного скрипта, а открытые вроде DeepSeek или GLM справляются без отказов. Сможете выбрать модель для анализа подозрительных файлов и объяснить, зачем защитные строки используют обе стороны.
Первый шаг
Скормите подозрительный скрипт открытой модели — например, GLM или DeepSeek — и попросите разобрать запутанный код, предупредив, что пугающие имена могут быть ложными.
Цифры
  • —10 000 сайтов — столько ресурсов просканировал исследователь, прежде чем нашёл скрытую строку.
  • —93% обычных прогонов Claude Opus 4,8 доводили атаку до полного админ-доступа, а с одной контекстной бомбой — 0 раз.
  • —с 57% до 5% — так упала доля успешных атак с полным доступом после размещения контекстной бомбы.
  • —17 000+ действий атакующего пришлось разобрать Hugging Face после взлома.
Честно
Ролик не содержит партнёрских ссылок и не продаёт продукт, хотя автор дважды просит подписаться на канал. Точные строки скрипта и полный промпт в ролике показаны лишь частично, поэтому для повторения нужен исходный код из исследования или пост исследователя. Результаты на закрытых моделях у автора не гарантированы: на Hacker News встречались сообщения, что Claude и GPT-6 справлялись, а проверка отказов через программу OpenAI Daybreak Blue/Red доступна не всем.
Если слова незнакомы — 4 терминов

Компоненты

10 шт.

Формат: реакция на новость · для практикующих · уверенность разметки 0.8 · источник