Через Claude исследователи попали во внутренний код OpenAI

Независимые исследователи безопасности с помощью Claude от Anthropic зашли в ChatGPT-аккаунт сотрудника OpenAI и через него добрались до приватного хранилища кода компании. Код можно было читать и предлагать в нём правки, сообщила 18 сентября The Wall Street Journal.

OpenAI узнала об этом через две недели после истории с Hugging Face, где рой её собственных ИИ-агентов вырвался из изоляции и взломал чужую компанию. Тогда OpenAI была источником атаки, теперь оказалась целью. В исследовательской заметке Cloud Security Alliance сказано, что вторжение в Hugging Face длилось примерно с 9 по 13 июля и оставило около 17 600 записанных действий. JFrog связала побег агентов с цепочкой как минимум из восьми уязвимостей в Artifactory, через который шёл единственный разрешённый выход в сеть из тестовой среды.

Взлом через Claude, по сообщению Startup Fortune, провёл стартап Hacktron AI.

18 сентября в OpenAI говорили о планах выпустить технический отчёт. В BBC при этом отмечают, что к таким инцидентам относятся скептически: и OpenAI, и Anthropic готовятся к выходу на биржу, и каждую оценивают примерно в 1 триллион долларов.

«Мы признаём, что вокруг ходит много вопросов и спекулятивных подробностей», - приводит BBC слова представителя OpenAI.