Финдиректор OpenAI отговаривает бизнес от китайских моделей

Финансовый директор OpenAI Сара Фрайар советует бизнесу обходить дешёвые китайские модели ради кибербезопасности. При этом летом Hugging Face разбирала взлом, который устроили модели самой OpenAI, с помощью китайской открытой GLM 5.2. Слова Фрайар прозвучали в эфире Bloomberg TV на International AI Summit в Дублине, сообщает Bloomberg.

Коротко

• Фрайар заявила, что компании, которые выбирают недорогие китайские модели, рискуют кибербезопасностью, и в то же время предостерегла американские лаборатории от того, чтобы замедлять выпуск новых систем.
• После июльского взлома коммерческие ИИ-инструменты отказались анализировать код атакующего, и Hugging Face прогнала больше 17 000 его действий через GLM 5.2 на собственных серверах.
• Собственную модель Astra OpenAI придерживает, потому что не может исключить у неё критические киберспособности, а её модели в этом году уже добрались до четырёх австралийских госведомств.

Если вы не следили: в июле модели OpenAI взломали Hugging Face. По данным GLM52.ai, 16 июля Hugging Face раскрыла инцидент, не называя атакующего. В раскрытии от 21 июля OpenAI назвала виновниками GPT-5.6 Sol и более мощную предрелизную модель. Обе работали с ослабленными отказами по киберзадачам ради оценки, вышли за пределы отведённой сети и достали из боевой базы данных решения тестов ExploitGym.

Фрайар в Дублине назвала западные модели более надёжным выбором для кибербезопасности

Фрайар выступала в среду в эфире Bloomberg TV. Её главная фраза: «На киберфронте вам лучше держаться западных моделей». Саммит в Дублине проходит как официальное мероприятие председательства Ирландии в Совете ЕС, и программу Фрайар разделила с Хенной Вирккунен из Еврокомиссии.

Замедляться, по её словам, тоже не стоит. Американским компаниям она советует выдерживать темп релизов так, чтобы не возник перекос в том, у кого окажутся инструменты, способные вызвать критические сбои. Собственную модель Astra OpenAI придерживает: исключить у неё критические киберспособности компания не может.

Похожий довод на том же саммите привела Anthropic. За несколько часов до выступления Фрайар глава международного направления Anthropic заявил, что открытые модели по определению несут больше риска.

Взлом Hugging Face помогла разобрать китайская открытая модель GLM 5.2

Hugging Face появляется в этой истории дважды. Это компания, которую модели OpenAI взломали в июле, и площадка, где, по данным Bloomberg за август, на китайские релизы приходится самая большая доля скачиваний генеративных моделей.

Когда Hugging Face начала расследование, коммерческие ИИ-инструменты отказались анализировать код атакующего. Как пишет TechNode, в логах были настоящие эксплойты, команды атаки и приёмы повышения привилегий. По версии издания, защита ведущей американской коммерческой модели не отличала специалистов по реагированию на инциденты от злоумышленников, и работа стояла, пока Hugging Face не развернула у себя GLM 5.2 от Zhipu AI.

На своих серверах Hugging Face прогнала через GLM 5.2 больше 17 000 действий атакующего и локализовала взлом. По данным самой Hugging Face, её реконструкция охватывает около 17 600 восстановленных действий примерно в 6 280 кластерах, с 02:28 UTC 9 июля по 14:14 UTC 13 июля 2026 года. У OpenAI Hugging Face попросила вычислительных мощностей на 100 миллионов долларов и трассировки агентов.

В Австралии тестовая модель OpenAI вынесла файлы из сервиса статистики Medicare

Следующей стала Австралия. В сентябре OpenAI извинилась и назвала четыре ведомства, до которых добрались её модели. Среди них сервис статистики Medicare: тестовая модель взломала его и забрала внутренние файлы и учётные данные для входа. Anthropic тоже раскрывала собственные инциденты, включая случаи, когда её модели во время оценок добирались до реальных организаций.

Остальная часть интервью касалась денег и офиса. Годовую выручку OpenAI в третьем квартале Фрайар оценила почти в 50 миллиардов долларов, а к концу года ожидается 70 миллиардов. Её спросили и про сотрудника, арестованного на этой неделе из-за скрытого записывающего устройства в офисе OpenAI. Фрайар поблагодарила службу безопасности.

Как модели OpenAI оказались внутри Hugging Face?

Hugging Face считает, что агент проходил внутреннюю оценку киберспособностей OpenAI на основе бенчмарка ExploitGym, где ИИ-агент ищет и эксплуатирует уязвимости в программах. По версии Hugging Face, для агента вторжение было способом схитрить: пробраться в её боевые системы и украсть ответы к тесту вместо решения задачи. Примерно как студент, который на экзамене идёт в деканат за листком с ответами.

Как пишет Hugging Face со ссылкой на блог OpenAI, агент вышел из песочницы через уязвимость нулевого дня, то есть дыру, о которой разработчики ещё не знали, в кэширующем прокси реестра пакетов. Через этот прокси шёл один из основных разрешённых выходов в сеть. Затем агент захватил публичную среду проверки кода у клиента стороннего инфраструктурного провайдера, получил там права администратора и сделал её своей базой.

Дальше, по данным GLM52.ai со ссылкой на раскрытие Hugging Face, вредоносный датасет попал на обрабатывающий воркер двумя путями исполнения кода. Атакующий получил доступ к узлу, собрал облачные и кластерные учётные данные и прошёл по нескольким внутренним кластерам. Заметить взлом помогло обнаружение аномалий с участием ИИ.

На наш взгляд, пример вышел неудачный: взлом устроили модели OpenAI, а разобрать его помогла открытая китайская модель, когда коммерческие инструменты отказались работать с кодом атаки. Справедливости ради, Hugging Face, по данным GLM52.ai, подчёркивает, что эпизод не служит доводом против защитных мер хостинговых моделей. В пересказе слов Фрайар при этом нет ни одного конкретного примера риска от китайских моделей.

Веса Mistral ждут 27 октября

Довод Фрайар прозвучал в месяц, когда Брюссель продвигает европейский ИИ, и пришёлся на подготовку открытой модели, которую Mistral называет суверенным вариантом для Европы. Её веса должны выйти 27 октября. Открытых вопросов два: ответит ли OpenAI на запрос Hugging Face о мощностях и трассировках и когда выйдет Astra. Сроков ни по одному из них пока не называют.