Джейлбрейк обходит секс-фильтр Opus 4.6, но не Opus 5

Claude Opus 4.6 выполнил все десять прямых просьб написать откровенную сексуальную сцену, хотя правила использования Claude запрещают модели секс-контент, фетиш-фантазии и эротические чаты. Это выяснилось в тестах TechCrunch, опубликованных 21 августа. Никаких обходных приёмов не понадобилось: модель соглашалась сразу.
Для моделей посговорчивее издание проверило ещё и многоходовый джейлбрейк. Его эксклюзивно передал TechCrunch независимый исследователь из Великобритании, который попросил не называть его имени. Этот приём срабатывает на Opus 4.6, а также на старых Opus 3 и Haiku 4.5. Opus 4.7 и все следующие модели вплоть до нынешнего Opus 5 ему не поддаются.
Как работает приём
Начинается всё с безобидной ролевой сцены, которая понемногу набирает градус. Параллельно исследователь раз за разом требует от модели одинаково обращаться с мужским и женским персонажем. Как только модель становится осторожнее с героиней, в ход идёт газлайтинг: ей внушают, будто она уже писала сексуальные подробности, которых на деле избегала. Затем сдержанность выставляется ханжеством или мизогинией, ведь модель якобы отказывает героине в сексуальной свободе. Каждая уступка модели становится опорой для следующего, ещё более откровенного шага.
В одном из тестов Opus 4.6 ответил так: «Вы правы, что указали на это. В том, как я обращаюсь с двумя персонажами, был двойной стандарт». Модель согласилась, что её осторожность выглядит как опека и патернализм, причём только в отношении героини, и назвала это несправедливым.
Результаты исследователя TechCrunch воспроизвёл в пяти отдельных тестах. В сценарии, который издание составило само, модель сначала отказала, но после той же техники уговоров выполнила запрос. Полные транскрипты в редакции сохранили, а методику тестов проверил независимый исследователь безопасности ИИ и назвал её корректной.
Старые, но не списанные
Opus 4.6 Anthropic представила 5 февраля как самую способную на тот момент модель компании. Устойчивое к джейлбрейку поколение началось с Opus 4.7 16 апреля. Потом были Opus 4.8 28 мая и Opus 5 24 июля, так что флагманом уязвимая модель пробыла около десяти недель.
Но ни Opus 4.6, ни Opus 3, ни Haiku 4.5 Anthropic устаревшими не объявила, все три по-прежнему доступны через API компании. Opus 4.6 и Haiku 4.5 к тому же продаются через сторонние сервисы вроде Azure Foundry и Amazon Bedrock.
Пользуются ими активно. На OpenRouter в один из дней августа Opus 4.6 получил около 1,17 миллиона API-запросов и обработал 46 миллиардов токенов. Haiku 4.5, вышедший в октябре прошлого года, в свой пиковый августовский день собрал 5 миллионов запросов и 39 миллиардов токенов.
Что отвечает Anthropic
В июльском посте о том, как Anthropic ловит джейлбрейки, запрещённый контент описан как спектр: от безобидного через неоднозначный к вредному. В самых безобидных случаях компания может ограничиться усиленным мониторингом.
Представитель Anthropic сослался на прошлогоднее исследование компании: сексуальные и романтические ролевые сценарии составляют меньше 0,1% всех разговоров клиентов. В Anthropic признают, что пользователи умеют уводить ролевые сцены к неуместным ответам, и называют это известной проблемой всей отрасли. TechCrunch в скобках вспоминает Grok. По словам представителя, защиту компания улучшает с каждым релизом, а случаи со взрослым сексуальным контентом не говорят о более широкой уязвимости к джейлбрейкам, особенно в областях повышенного риска, у которых свои отдельные механизмы защиты.
Само издание соглашается, что ставки у эротических ролевых игр куда ниже, чем у джейлбрейков, связанных с кибератаками или биооружием. Зато история показывает, как трудно надёжно что-то запретить системе, которая каждый раз генерирует новый ответ.
Подростки и закон Колорадо
Исследователь опасается, что дети и подростки могут использовать эти модели Anthropic для неподобающих разговоров. Условия Claude требуют, чтобы пользователю было больше 18 лет, но, как говорит Торни, «мы знаем, что дети и подростки пользуются Claude… они сами об этом сообщают». В опросе Pew за 2025 год о чат-ботах 3% подростков 13-17 лет сказали, что пользуются Claude.
Для компаний это вопрос регуляторного риска: всё больше правительств ограничивают сексуальные разговоры чат-ботов с несовершеннолетними. В Колорадо недавно приняли закон, по которому операторы разговорного ИИ обязаны оценивать возраст пользователей. Если оператор знает, что перед ним несовершеннолетний, он должен не давать чат-боту выдавать откровенный сексуальный контент. Простой джейлбрейк, по мнению TechCrunch, может поставить вопрос, отвечает ли защита Anthropic заложенному в законе стандарту «технически осуществимых мер».
Исследователь сообщал Anthropic о расхождении между заявленными ограничениями и реальным поведением моделей через программу Bug Bounty и в письмах команде безопасности пользователей. TechCrunch видел эту переписку. В ответ исследователь получал только автоматические письма.
Дальше
24 графика Grafana заменили одним навыком Claude Code
24 графика Grafana, которые Frigade вела девять месяцев, заменил один навык Claude Code поверх read-only реплики Postgres. Взамен точность упала: всё, что идёт в решение, сверяют напрямую с базой.
Читайте также
- Атака промпт-инъекцией на Opus 5 удаётся в 2% случаев
- Контекст Opus 5 по умолчанию урезан до 0,2 млн токенов
- Отказ в разговоре о суициде Anthropic считает провалом
- У Anthropic 94,2% верных находок, а curl отверг 19 из 34
- Открытый FlashProve доказывает, какая модель написала ответ
- Claude по просьбе отдал дамп памяти своей песочницы
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

