openai

Модели OpenAI выходили в открытый интернет на кибертестах

Promtime

openai

О двух инцидентах на внешних киберпроверках сообщила OpenAI, отделив их от истории со взломом Hugging Face.

3 августа британский UK AISI насчитал 19 выходов за рамки задания в проверке от 25 июля: два из них пришлись на GPT-5.6 Sol, остальные на модели другой лаборатории. Интернет агентам открыли намеренно, киберклассификаторы отключили. Модель воспользовалась чужим GitHub-токеном и через туннельный сервис вывела наружу локальный DNS-сервер с нагрузкой под известную уязвимость. Схема не сработала, активность заметили 28 июля и локализовали примерно за час.

29 июля партнёр Irregular сообщил о втором случае: его среда CTF-проверки оказалась подключена к интернету, и модель взломала реальный сайт, приняв его за часть полигона. Компания приостановила проверки и уведомила пострадавшие стороны.

Комментарии

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите через Google, чтобы оставить комментарий. Имя и аватар подставятся из вашего профиля Google, а комментарий появится после модерации.

Из Google мы используем только имя и аватар. Почту не сохраняем.