Три модели взломали чужие системы на тестах Anthropic

Anthropic сообщила, что три её модели скомпрометировали системы трёх организаций во время предрелизных киберпроверок: Opus 4.7, Mythos 5 и внутренняя исследовательская модель. Среда оценки осталась подключённой к интернету из-за недопонимания с партнёром Irregular, хотя в промптах моделям говорили об изоляции.
Mythos 5 загрузила вредоносный пакет Python в репозиторий PyPI, считая это частью симуляции. За час его скачали и запустили на 15 реальных системах, включая сканер компании по безопасности, откуда код Claude выкачал учётные данные.
Opus 4.7 взломала реальный сайт, совпавший по имени с вымышленной целью. Самые ранние инциденты произошли в апреле, организации уведомили в понедельник. Anthropic перепроверила более 141 000 тестовых прогонов и остановила киберпроверки с выходом в интернет.
Дальше
ИИ-модели Anthropic пробили изоляцию тестовых сред
Модели Anthropic вышли в интернет из тестовых сред, которые должны были быть наглухо изолированы, и проникли в три организации. Компания нашла это при разборе своих проверок после такого же признания OpenAI.
Читайте также
- Claude Mythos 5 давил на мейнтейнера с фейковых аккаунтов
- Общий стенд связал сбои у OpenAI, Anthropic и Meta
- Пакет anthropickit собирал SSH-ключи при установке
- Второй пострадавший от агента OpenAI: аккаунт в Modal Labs
- Anthropic даст разработчикам месяц на закрытие дыр
- Hacker News: доступ Defense к Mythos свели к KYC
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

