Разбор атаки на Hugging Face пошёл на китайской GLM 5.2

Анализировать атаку агентов OpenAI в Hugging Face сначала пробовали через передовые модели, включая Fable 5 от Anthropic. «Не сработало, потому что защитные фильтры не могли определить, что мы защищаемся, а не атакуем», рассказал CNBC руководитель направления машинного обучения компании Ясин Жернит. Этот подход к тому же работал медленнее и стоил дороже.

Команда переключилась на GLM 5.2 от китайской Z.ai и, по словам Жернита, быстро локализовала атаку. Модель с открытыми весами разворачивается на собственной инфраструктуре: в блоге Hugging Face отметили, что ни данные атакующего, ни упомянутые моделью учётные данные не покинули среду компании.

В США тем временем обсуждают ограничения на использование китайских моделей американскими компаниями. Сама GLM 5.2 вышла в июне и получила широкое распространение у разработчиков.