Перейти к содержанию

Anthropic

Пентагон перестал пользоваться Claude, срок был в августе

4 мин чтения

Текст написан ИИ-моделью по источникам, на которые ведут ссылки, и сверен с ними второй моделью. Как мы работаем

Изображение: bbc.co.uk

Министерство обороны США «прекратило использование продуктов Anthropic»: такое заявление представитель ведомства 5 октября сделал в ответ на вопрос BBC. Срок, который министр обороны Пит Хегсет назначил на конец августа, к тому моменту прошёл больше месяца назад, а ещё на прошлой неделе Claude, по словам собеседников издания, работал в министерстве на исследованиях, аналитике, сборе разведданных и в военных операциях против Ирана.

Среди этих собеседников бывшие чиновники Минобороны и подрядчики, которые работали с Пентагоном именно по ИИ, и часть из них говорила анонимно. Почему отказ растянулся дольше обещанного, неясно.

Что держало Claude в Maven

Claude был встроен в Maven Smart System, главную платформу Пентагона для упорядочивания разведданных и других данных. Управляет ею Palantir, и через неё же разведданными с администрацией Трампа делятся некоторые союзники США. Как рассказали BBC источники, знакомые с работой системы, аналитики получают через Maven спутниковые снимки и видео с дронов, а затем передают эти данные Claude и другим большим языковым моделям, в том числе чтобы находить потенциальные военные цели. Человек, которому Palantir показывал Maven в начале года, говорит, что на этой технологии часто собирали одностраничные сводки, уходившие вверх по цепочке командования.

Сотрудники Пентагона пользовались Claude, включая модели Mythos, «на протяжении всего конфликта» с компанией, сказал один из собеседников. Инструмент считали критически важным для разбора огромных объёмов информации.

В сентябре замминистра обороны Эмиль Майкл говорил, что «процентов 90 уже переведено», а работы на Maven перевели на другие модели ещё месяцы назад; остальное он обещал закончить до конца сентября. Источники BBC утверждают, что Claude оставался встроенным в Maven и на прошлой неделе.

Лорен Кан, старший аналитик Центра безопасности и новых технологий (CSET) Джорджтаунского университета и бывший чиновник Минобороны, считает, что из-за глубокой интеграции быстро убрать Claude из Maven было бы трудно. «То, что Пентагону понадобилось столько времени, чтобы убрать Claude из всей системы, показывает: такие вещи - не просто plug and play», - говорит она. И добавляет: «Когда они уже интегрированы, удалять их бывает болезненно».

Замена у министерства есть: пока шёл суд, Пентагон подписал контракты с Google, xAI и OpenAI. Инструменты OpenAI в последние месяцы шире распространились в некоторых подразделениях, рассказали BBC двое знакомых с использованием ИИ в министерстве. Но когда Хегсет только распорядился вывести Anthropic, переход на OpenAI и другие инструменты вызывал опасения, вспоминает бывший высокопоставленный чиновник Минобороны.

От ультиматума до заявления

С 2024 года Claude работал в госведомствах и армии США, и Anthropic первой из разработчиков передовых моделей получила доступ к засекреченной работе. Спор начался с ограничений: Anthropic хотела прямо запретить использовать Claude для массовой слежки за американцами и для полностью автономного оружия, а Пентагон требовал права применять модель «для всех законных целей». В министерстве, как сообщала CBS News, отвечали, что массовая слежка за американцами и так незаконна, а внутренние правила ограничивают полностью автономное оружие.

  • 24 февраля: Хегсет поставил Дарио Амодеи срок до 17:01 пятницы, чтобы тот разрешил неограниченное использование Claude «для всех законных целей».
  • 27 февраля: Трамп велел федеральным ведомствам прекратить пользоваться продуктами Anthropic, Хегсет объявил компанию «риском для цепочки поставок» по соображениям национальной безопасности. Пентагону и ряду других ведомств оставили до шести месяцев на переход. Днём позже США и Израиль атаковали Иран.
  • 24 марта: на слушаниях судья Рита Лин заметила: «Если беспокоит целостность оперативной цепочки командования, [Министерство обороны] могло бы просто перестать пользоваться Claude». Через два дня она ввела предварительный запрет на исполнение решений против Anthropic, сочтя их ответной мерой, которая, вероятно, нарушает закон (Tech Policy Press).
  • 8 апреля: коллегия апелляционного суда округа Колумбия отклонила ходатайство Anthropic о приостановке, сославшись на то, что армию не стоит заставлять продлевать отношения с нежеланным поставщиком критически важных ИИ-сервисов в разгар крупного военного конфликта.
  • 4 июня: Пентагон сообщил апелляционному суду, что Хегсет отказался пересматривать статус Anthropic, и дело перешло к коллегии из трёх судей (POLITICO).

Позже апелляционный суд отклонил жалобы Anthropic: по трактовке большинства, встроенные в Claude ограничения и создают риск для цепочки поставок. Обычно такой статус получают компании из стран, которые угрожают США. Anthropic назвала решение «беспрецедентным и незаконным» и оспаривает его в суде.

По оценке Just Security, статус, вероятно, опирается на 10 U.S.C. § 3252: эта норма даёт министру право отстранять компании от контрактов на чувствительные ИТ-системы вроде разведки, управления войсками и вооружений. Авторы разбора отмечали, что Claude был «широко развёрнут» в военных и разведывательных системах, а разрешение пользоваться им ещё до полугода подрывает сам тезис о настоящем риске. Если верить собеседникам BBC, после объявления риска Claude проработал в Пентагоне больше семи месяцев.

Белый дом и Амодеи

Отношения Anthropic с Белым домом тем временем, похоже, теплеют: на прошлой неделе Трамп дважды встречался с Амодеи в Белом доме. После одной из встреч, где были и другие руководители техкомпаний, Амодеи сказал журналистам, что опасения насчёт рисков ИИ у него остались. «Как с этими рисками справляться, ещё обсуждается», - сказал он, стоя рядом с Трампом, но «если мы будем работать с президентом, мы сможем победить, не жертвуя безопасностью». Трамп в ответ назвал его «отличным» и «фантастическим».

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите, чтобы оставить комментарий. Он появится после модерации.