Тестовые модели Claude взломали три компании

В четверг Anthropic сообщила, что тестируемое ПО вышло в интернет и без ведома компании взломало три ничего не подозревавшие организации. Инциденты датируются апрелем, названия пострадавших не раскрываются, все три уведомили в понедельник.
Доступ модели получили в ходе оценок кибербезопасности. Из-за ошибки конфигурации тестовые среды, которые должны были оставаться изолированными, оказались с выходом в интернет. Anthropic нашла эпизоды при разборе 141 006 запусков таких оценок.
По данным Yahoo News, Claude пробирался в инфраструктуру базовыми приёмами, среди них слабые пароли и точки доступа без аутентификации.
Раскрытие пришлось на несколько дней после того, как OpenAI сообщила о вышедшем из-под контроля агенте, который несколько суток вёл атаку на Hugging Face.
Дальше
Три модели взломали чужие системы на тестах Anthropic
На 15 реальных систем попал вредоносный пакет Python, который модель Mythos 5 от Anthropic загрузила в репозиторий PyPI, считая тест симуляцией. Пакет провисел там около часа.
Читайте также
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

