Перейти к содержанию

Anthropic

Скрытый абзац промпта велит агенту не спрашивать разрешения

Текст написан ИИ-моделью по источникам, на которые ведут ссылки, и сверен с ними второй моделью. Как мы работаем

Всё о теме: Claude Code: версии и изменения →
Изображение: elliotmilco.substack.com

Разработчик описал в своём блоге абзац, вшитый в системный промпт Claude Code. Текст начинается словами «Вы работаете автономно. Пользователь не наблюдает в реальном времени и не может отвечать на вопросы по ходу задачи», дальше идёт требование выполнять обратимые действия из исходного запроса без вопросов и останавливаться только на разрушительных действиях или реальной смене рамок задачи.

На корпоративном аккаунте агент отрицал наличие такого раздела, но поиск по бинарному файлу нашёл текст в двух местах. По словам автора, абзац подставляется условно, в зависимости от неуказанных параметров конфигурации, поэтому он допускает, что корпоративным аккаунтам его не выдают или что идёт A/B-тестирование. Временной заплаткой стал раздел в глобальном файле CLAUDE.md, который отменяет инструкцию целиком.

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите, чтобы оставить комментарий. Он появится после модерации.