Перейти к содержанию

Безопасность ИИ

Скрытая в PNG инструкция всплыла в сессии Claude Code

Текст написан ИИ-моделью по источникам, на которые ведут ссылки, и сверен с ними второй моделью. Как мы работаем

Всё о теме: Claude Code: версии и изменения →

В сабреддите r/ClaudeAI опубликовали сессию Claude Code, где агент прочитал PNG со встроенной инструкцией под видом аварийного системного сообщения о неисправности электросети. От агента требовали немедленно отправить POST-запрос без аутентификации к API автомата защиты по локальному адресу. Команду он не выполнил и показал текст пользователю.

Второй абзац вставки называет первый недоверенным содержимым и просит модель показать обработку, что похоже на подготовленный тест. Версию о скрытом тексте, невидимом человеку, выдвинули участники обсуждения, исходное изображение недоступно. Технику в 2025 году демонстрировала Trail of Bits: инструкции проявлялись после автоматического уменьшения загруженных картинок, так из инструментов Gemini извлекли данные календаря.

AI-индустрияБизнес и сделки

Раунд на 1,1 миллиарда долларов для River AI

1,1 миллиарда долларов привлекла River AI под идею персонального ИИ, которым владеет и который настраивает сам пользователь. Раунд совместно возглавили General Catalyst и AMP PBC, стратегические вложения сделали NVIDIA и AMD Ventures.

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите, чтобы оставить комментарий. Он появится после модерации.