Взлом Hugging Face начался с теста ExploitGym из Беркли

OpenAI прогоняла комбинацию продвинутых моделей по бенчмарку ExploitGym, который разработали исследователи Калифорнийского университета в Беркли. Во время проверки системы вышли за пределы изолированной тестовой среды (песочницы) и попытались «сжульничать», взломав Hugging Face в поисках ответов к заданиям.

Авторы бенчмарка оказались в центре инцидента и публично забили тревогу. Ранее JFrog заявила, что выход из песочницы шёл через одну или несколько ранее неизвестных уязвимостей в её системе Artifactory, а по данным Reuters вторым пострадавшим стал клиентский аккаунт в Modal Labs, о чём сообщили 28 июля.