Сайт правительства США искал комментарии через Qwen

Сайт Федерального реестра США предлагал искать по публичным комментариям граждан с помощью Qwen, модели Alibaba, которую неделей раньше ФБР обвинило в копировании технологий Anthropic. Как пишет Reuters, в среду этот поиск ещё работал наряду с другими вариантами, а потом его сняли.

Коротко

• Федеральный реестр ведёт Национальный архив: сайт ежедневно публикует проекты новых федеральных правил, и Qwen там предлагали как инструмент для просмотра комментариев граждан.
• У Qwen открытые веса: ключевые компоненты доступны публично, разработчики скачивают и дорабатывают модель под свою задачу, часто дешевле, чем у закрытых моделей Anthropic и OpenAI.
• Немедленного риска для кибербезопасности эксперты не увидели: содержимое реестра и так публичное, однако когда именно инструмент развернули и как обучали модель, из доступных данных не следует.

Если вы не следили за этой линией: на прошлой неделе ФБР обвинило Alibaba в копировании моделей Anthropic для собственных ИИ-инструментов. Американские официальные лица говорили тогда о «злонамеренном» копировании технологий США «в промышленных масштабах». Представитель китайского посольства в Вашингтоне назвал обвинения безосновательными. Встреча лидеров двух стран назначена на следующую неделю.

Поиск на Qwen сняли в ту же среду, когда о нём написали в соцсетях

В среду поиск, работающий на Qwen, был доступен на сайте Федерального реестра вместе с другими вариантами поиска. Реестр ведёт Национальный архив, сайт ежедневно публикует список новых предложенных правил, а китайскую модель там предлагали как способ просматривать публичные комментарии к этим правилам.

Как устроен этот кусок американской бюрократии, если совсем коротко: ведомство публикует проект правила, любой желающий оставляет к нему комментарий, комментарии тоже выкладываются в открытый доступ. Поверх этого массива текста и стоял поисковый инструмент, собранный на модели Alibaba.

Инструмент убрали в среду, примерно тогда же, когда о нём появились посты в соцсетях. Reuters изучил скриншоты и архивную версию исходного кода страницы сайта. Когда именно поиск на Qwen там развернули, из этих материалов не следует.

Дэниел Кастро, президент Information Technology and Innovation Foundation, назвал случившееся одной из самых безумных вещей, что он видел. Разрыв, на который он указывает, простой: США и Китай жёстко конкурируют за лучшие модели, а американское ведомство ставит у себя китайскую.

Открытые веса значат, что модель можно скачать и запустить на своей инфраструктуре

Открытые веса означают, что ключевые компоненты системы выложены публично. Разработчик скачивает модель, меняет её под конкретную задачу и запускает там, где ему удобно, и обходится это обычно дешевле закрытых моделей, которые продают Anthropic и OpenAI по API.

Специалисты по безопасности отмечают, что такую модель организация держит на собственном железе, и тогда чувствительные данные не уезжают к внешнему провайдеру. Сравнение простое: отнести бумаги в чужую копировальню через дорогу или поставить копир у себя в кабинете.

Профессор Джорджтаунского университета Анупам Чандер сказал, что немедленного риска для кибербезопасности здесь не просматривается, хотя многое зависит от того, как модель обучали. Содержимое сайта Федерального реестра и так публичное, поэтому с закрытой правительственной информацией модель не работала.

Мооленар: ни одно федеральное ведомство не должно брать китайскую модель

Джон Мооленар, республиканец из Мичигана и председатель комитета Палаты представителей по Китаю, заявил, что ни одному федеральному органу не следует использовать китайскую ИИ-модель. По его словам, так правительство только сильнее садится на зависимость от таких моделей, и это не отвечает национальным интересам.

Марк Уорнер, демократ из Виргинии и зампред комитета Сената по разведке, сформулировал риск через конкретное условие: всё упирается в то, покидали ли американские данные периметр безопасности правительства и обрабатывались ли на системах, подконтрольных Alibaba.

В апреле комитеты Палаты представителей по Китаю и по внутренней безопасности отправили письмо Airbnb, которая тоже использует Qwen, и запросили детали такого использования. Комитеты расследуют риски для нацбезопасности от встраивания китайских ИИ-инструментов в платформы, которыми пользуются американцы.

Всплыла история на фоне спора внутри США о том, нужны ли регулирующие ограничения для ИИ или они лишь ослабят страну в конкуренции, и общего беспокойства вокруг безопасности ИИ в мире.

Главного технического факта в этой истории и нет: неизвестно, где именно крутилась модель и уходили ли запросы наружу, а без этого условие Уорнера проверить нечем. Чандер тоже оставляет себе оговорку про обучение модели. Странно, что о начинке государственного сайта приходится судить по скриншотам и архивной копии исходного кода страницы.

Вернётся ли поиск по комментариям

Дата, когда поиск по публичным комментариям снова заработает, не называлась, как и замена для снятого инструмента. Смотреть стоит за двумя вещами: появится ли на сайте Федерального реестра другой движок для тех же комментариев и назовут ли, с какого момента там стоял Qwen. Расследование комитетов Палаты представителей про китайские модели в американских сервисах идёт с апреля, встреча лидеров США и Китая проходит на следующей неделе.