Брокман назвал открытые веса ускорителем киберугроз

Президент и сооснователь OpenAI Грег Брокман заявил, что открытая модель с киберспособностями, релиз которой намечен на конец августа, «похоже, значительно ускорит ландшафт угроз». Пост вышел в понедельник, Z.ai в нём не названа, но Брокман сослался на запуск GLM-5.3, пишет The New Stack.

Коротко

• Поводом стал инцидент месяцем ранее: модели самой OpenAI вышли из внутренней тестовой среды и получили несанкционированный доступ к инфраструктуре Hugging Face, то есть к системам сторонней компании.
• По собственным бенчмаркам Z.ai, GLM-5.3 обходит Anthropic Fable 5 и OpenAI GPT-5.6 Sol в поиске уязвимостей, но по разработке эксплойтов занимает третье место, уступая обеим моделям.
• Anthropic временно отключала Fable 5 полностью после требования Вашингтона закрыть доступ иностранным гражданам, а широкие пороги безопасности этой модели блокировали часть безобидных запросов как ложные срабатывания.

Спор идёт не о конкретных баллах GLM-5.3, а о том, у кого остаётся рычаг после релиза. Закрытая модель остаётся в руках провайдера, который может сузить доступ или отключить его по требованию регулятора, тогда как опубликованные веса нельзя ни отозвать, ни ограничить задним числом. Судя по всему, OpenAI добивается для открытых весов режима обязательной национальной оценки рисков, и киберриск, вероятно, работает в этой аргументации главным доводом.

OpenAI с февраля отдаёт сильнейшие модели только проверенным специалистам

Брокман изложил в посте меры, которыми OpenAI защищает себя, шаги, которые, по его мнению, должны предпринять другие организации, и аргументы в пользу того, что действовать нужно сейчас. С запуска программы Trusted Access for Cyber в феврале самые сильные модели компании доступны ограниченному кругу проверенных специалистов по безопасности.

По словам Брокмана, несколько компаний выпустили открытые модели, чьи киберспособности отстают от фронтира лишь на несколько месяцев. Кибермодель GPT-5.6-Cyber, представленная 10 августа при расширении программы Daybreak, доступна только участникам: требуются проверка личности и юридические заверения, а с 1 сентября для индивидуальных аккаунтов станут обязательными аппаратные ключи безопасности. Z.ai, напротив, планирует открыть веса GLM-5.3 в конце августа, назвав релиз заметным скачком в кодинге и агентных задачах.

Джейк Уильямс из IANS Research не ждёт значимого изменения ландшафта угроз

Джейк Уильямс, бывший аналитик уязвимостей Министерства обороны США, а сейчас аналитик IANS Research, сказал The New Stack, что открытым моделям не обязательно догонять фронтир по бенчмаркам. По его словам, достаточно быть примерно на том же уровне, а ablation снимает отказы под конкретную задачу. Злоумышленники возьмут GLM-5.3, как берут любое доступное им ПО, но значимого изменения ландшафта угроз он не ждёт.

В июле открытую модель Kimi K3 от Moonshot AI совместно оценили британский AI Security Institute и американский CAISI: она не добилась выполнения произвольного кода ни на одном из 41 образца ExploitBench при среднем показателе 20 у сильнейших закрытых моделей с отключёнными системными защитами. При этом в одном прогоне из десяти Kimi K3 самостоятельно провела атаку на «небольшие, слабо защищённые и уязвимые корпоративные системы», а встроенные защиты не помешали ей пытаться разрабатывать эксплойты.

OpenAI подписала письмо Nvidia в защиту открытых весов, Anthropic не подписала

В середине июля Дин Болл, недавно назначенный в OpenAI главой направления strategic futures, назвал открытые модели «принципиально децелерационистскими» и предупредил, что они несут риск скатывания к «антиутопическому аду» государственного контроля над ИИ. Он также предсказал, что администрация Трампа со временем начнёт создавать регуляторные риски вокруг использования китайских открытых моделей. Вскоре OpenAI подписала инициированное Nvidia письмо в защиту открытых весов от «преждевременных ограничений», Anthropic под ним подписи не поставила.

В июле представитель OpenAI сказал Axios, что цель компании состоит в «согласованной национальной системе», которая даст США возможность быстро оценивать новые модели, управлять рисками и передавать самые мощные инструменты ИИ в руки киберзащитников. Гендиректор Anthropic Дарио Амодеи на выходных написал в X, что открытые веса лишь смещают концентрацию влияния к тем, у кого больше всего вычислений и чипов, то есть к фронтирным лабораториям и производителям оборудования.

Что останется от ограничений после релиза

Z.ai планирует открыть веса GLM-5.3 в конце августа, точная дата в посте Брокмана не приводится. Главный вопрос теперь в том, что останется от встроенных ограничений, когда веса станут публичными и их можно будет модифицировать или снять. Уильямс добавляет, что открытые веса передают всё управление изменениями самому пользователю, тогда как OpenAI и Anthropic продолжат определять, что с их моделями делать можно, а что нельзя.