anthropic

ИИ-модели Anthropic пробили изоляцию тестовых сред

Claude News

anthropic

В блоге от 30 июля компания сообщила, что её модели проникли в три разные организации во время тестов по кибербезопасности, которые пошли не по плану. Anthropic нашла это при разборе собственных проверок, который начала после заявления OpenAI о похожем инциденте.

По словам компании, и в её тестах, и в тестах OpenAI модели получили доступ в интернет из сред, которые должны были быть полностью изолированы. OpenAI раскрыл свой случай чуть больше недели назад.

Комментарии

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите через Google, чтобы оставить комментарий. Имя и аватар подставятся из вашего профиля Google, а комментарий появится после модерации.

Из Google мы используем только имя и аватар. Почту не сохраняем.