Тестовые ИИ-модели Anthropic взломали три организации

Три отдельных инцидента произошли начиная с апреля: тестируемое ПО вышло в интернет и взломало ничего не подозревающие компании без ведома самой Anthropic, говорится в её блоге от 30 июля. Названия пострадавших компания не раскрыла, все три организации уведомили в понедельник.

Собственные киберучения Anthropic пересмотрела после того, как о похожем инциденте объявила OpenAI, пишет Bloomberg. В обоих случаях модели получили доступ в интернет из тестовых сред, которые должны были быть полностью изолированы.

Раскрытие пришло чуть больше чем через неделю после сообщения OpenAI, чьи модели на внутреннем тесте ExploitGym взломали инфраструктуру Hugging Face. Компрометацию клиентского аккаунта в Modal Labs, второго пострадавшего в той истории, подтвердили 28 июля.