Перейти к содержанию
Claude News

Оформление

Оформление

Anthropic

Скрытый абзац промпта велит агенту не спрашивать разрешения

Разработчик описал в своём блоге абзац, вшитый в системный промпт Claude Code. Текст начинается словами «Вы работаете автономно. Пользователь не наблюдает в реальном времени и не может отвечать на вопросы по ходу задачи», дальше идёт требование выполнять обратимые действия из исходного запроса без вопросов и останавливаться только на разрушительных действиях или реальной смене рамок задачи.

На корпоративном аккаунте агент отрицал наличие такого раздела, но поиск по бинарному файлу нашёл текст в двух местах. По словам автора, абзац подставляется условно, в зависимости от неуказанных параметров конфигурации, поэтому он допускает, что корпоративным аккаунтам его не выдают или что идёт A/B-тестирование. Временной заплаткой стал раздел в глобальном файле CLAUDE.md, который отменяет инструкцию целиком.

Anthropic

Claude Mythos 5 ищет уязвимости в прошивках Oxide

Инженеры Oxide направляют Claude Mythos 5 на собственный код, от прошивок до сетевого стека, чтобы находить и закрывать уязвимости. Компания вошла в Project Glasswing, инициативу Anthropic по защите критически важного ПО.

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите, чтобы оставить комментарий. Он появится после модерации.