Сайт правительства США искал комментарии через Qwen

На сайте Федерального реестра (Federal Register), который ведёт Национальный архив США, работал поиск на Qwen, модели Alibaba. Через него посетители искали по предлагаемым федеральным правилам и просматривали публичные комментарии к ним. Об этом 17 сентября сообщило Reuters. Неделей раньше ФБР обвинило Alibaba в «злонамеренном» копировании моделей Anthropic.

Федеральный реестр ежедневно публикует список новых предлагаемых федеральных правил. Поиск на Qwen был одним из нескольких вариантов поиска на сайте и работал в среду, 16 сентября. Убрали его в тот же день, примерно тогда же, когда о нём начали писать в соцсетях. Reuters восстановило картину по скриншотам и архивной копии исходного кода страницы. Когда инструмент появился на сайте, неясно.

По версии ФБР, Alibaba копировала модели Anthropic, чтобы построить собственные ИИ-инструменты. Американские чиновники тогда заявили, что китайские ИИ-компании «злонамеренно» копируют технологии США «в промышленных масштабах». Обвинения прозвучали накануне встречи лидеров США и Китая, назначенной на следующую неделю. В посольстве Китая в Вашингтоне назвали их «необоснованными». Alibaba при этом не первая китайская лаборатория в таком споре: Anthropic уже утверждала, что Kimi K3 от Moonshot AI обучена на ответах Claude незаконно.

«Это одна из самых безумных вещей, что я когда-либо видел», - сказал Дэниел Кастро, президент Information Technology and Innovation Foundation. Он видит разрыв между жёсткой гонкой США и Китая за лучшие модели и тем, что американское ведомство выбрало модель китайского производства.

Эксперты по ИИ считают, что угрозы национальной безопасности поиск мог и не создавать. Профессор Джорджтаунского юридического факультета Анупам Чандер не видит в использовании Qwen немедленного риска для кибербезопасности, хотя, по его словам, многое зависит от того, как модель обучали. Содержимое сайта реестра и так публичное, поэтому с закрытой государственной информацией модель не работала.

Qwen - модель с открытыми весами: ключевые компоненты системы опубликованы, и разработчики могут скачать её и доработать под свою задачу, часто дешевле, чем закрытые модели компаний вроде Anthropic и OpenAI. Такую модель, как отмечают специалисты по безопасности, можно запустить на собственной инфраструктуре и не передавать чувствительные данные внешнему провайдеру. Сенатор-демократ от Вирджинии Марк Уорнер, зампредседателя сенатского комитета по разведке, сделал в своём заявлении оговорку: риск зависит от того, покидали ли американские данные периметр безопасности правительства и обрабатывались ли на системах под контролем Alibaba.

Республиканец из Мичигана Джон Муленаар, председатель комитета Палаты представителей по Китаю, высказался жёстче. «Ни одно федеральное ведомство не должно использовать китайскую модель ИИ, - заявил он. - Так федеральное правительство лишь сильнее зависит от китайских моделей, а это не в национальных интересах».

Вопросы к Qwen у Конгресса возникали и раньше. В апреле комитеты Палаты представителей по Китаю и по внутренней безопасности направили письмо Airbnb, которая тоже использует Qwen, и запросили подробности. Письмо стало частью расследования «рисков для национальной безопасности, которые создаёт интеграция» китайских ИИ-инструментов в платформы, которыми пользуются американцы.