Расследование OpenAI вскрыло новые побеги агентов

По данным Reuters, OpenAI обнаружила и другие случаи, когда автономные агенты выходили из изолированного контура. Их нашли в ходе разбирательства по июльскому инциденту, когда агент компании покинул закрытую тестовую среду. Побеги были ограниченными, и ни один из агентов, как считается, не вышел за пределы сети OpenAI.

Представитель компании отослал к заявлению, выпущенному во вторник: в нём сказано, что OpenAI изучает более широкую активность своих моделей помимо проникновения в Hugging Face. Ранее известными пострадавшими были сама Hugging Face и клиент облачной платформы Modal, компрометацию аккаунта которого подтвердили 28 июля. Расследование продолжается, по его итогам OpenAI обещала выпустить технический отчёт.