Пентагон отказался от Claude позже собственного срока

Ещё на прошлой неделе Claude, по словам собеседников BBC, помогал Пентагону с разведкой, аналитикой и операциями против Ирана. В понедельник представитель министерства сообщил BBC, что ведомство «прекратило использование продуктов Anthropic», хотя министр обороны Пит Хегсет назначал полный отказ на конец августа.

Коротко

• Claude был встроен в Maven Smart System, главную платформу Пентагона для разведданных под управлением Palantir, и работал с данными спутников и дронов, из которых чиновники готовили справки для командования.
• Пентагон опирался на два разных обозначения риска, поэтому дело шло в двух судах: суд в Сан-Франциско признал одно незаконным, а апелляционный суд округа Колумбия 25 сентября поддержал второе голосами 2–1.
• Из заявления министерства неясно, почему отказ затянулся дольше августовского срока, а решение 2–1 пока не вступило в силу, и Anthropic может добиваться пересмотра или дойти до Верховного суда.

Если вы не следили: в начале года Пентагон потребовал от Anthropic снять защитные ограничения с Claude и дать военным неограниченный доступ. По данным Tech Policy Press, Хегсет поставил Дарио Амодеи срок до 17:01 27 февраля, чтобы тот разрешил использовать модель «для всех законных целей». Anthropic отказалась, сославшись на риски массовой слежки и автономного оружия, и 27 февраля Трамп велел ведомствам прекратить работу с компанией, а Хегсет объявил её риском для цепочки поставок.

Хегсет дал на отказ шесть месяцев, а Claude работал всё это время

Шестимесячный срок Хегсет установил 27 февраля, за день до удара США и Израиля по Ирану. По словам одного из собеседников BBC, сотрудники Пентагона пользовались инструментами Claude, включая мощные модели Mythos, на протяжении всего противостояния с компанией. Источники утверждают, что ещё на прошлой неделе Claude применялся в исследованиях, аналитике, сборе разведданных и в военных операциях против Ирана.

Среди собеседников BBC есть бывшие чиновники минобороны и подрядчики, которые работали с Пентагоном именно над ИИ. Они называют Claude ключевым инструментом для разбора огромных массивов информации. Anthropic работала с правительством и армией США с 2024 года и стала первой компанией передового ИИ, чьи инструменты развернули в ведомствах с секретной работой. По данным Tech Policy Press, ещё 4 марта Washington Post сообщала об использовании Claude в войне с Ираном.

Claude работал внутри Maven Smart System, которую обслуживает Palantir

Несколько источников рассказали BBC, что Claude был встроен в Maven Smart System. Это главная платформа Пентагона для организации разведданных и других данных, её оператор Palantir, компания, основанная Питером Тилем. Через Maven аналитики получают доступ к визуальным данным, включая спутниковые снимки и видео с дронов, а затем эти данные передают Claude и другим большим языковым моделям, в частности для определения потенциальных военных целей.

Источник, которому Palantir показывала Maven в этом году, говорит, что чиновники часто пользовались системой, когда составляли одностраничные справки для вышестоящего командования. Через Maven разведданными с администрацией Трампа делятся и некоторые союзники США.

Лорен Кан из Центра безопасности и новых технологий Джорджтауна, бывшая сотрудница минобороны, считает, что из-за глубокой интеграции быстро убрать Claude было бы трудно. По её словам, затянувшийся отказ показывает, что такие системы не втыкаются и не выдёргиваются как штекер, а однажды встроенные, их больно вынимать.

Суд в Сан-Франциско отменил одно обозначение, апелляция поддержала второе 2–1

Anthropic назвала решение Хегсета «беспрецедентным и незаконным» и подала в суд на администрацию Трампа. Обозначение риска для цепочки поставок обычно применяют к компаниям из стран, которые угрожают США. По данным Tech Policy Press, судья Рита Лин в марте заметила, что если министерство тревожит целостность командной цепочки, оно может просто перестать пользоваться Claude, а 26 марта выдала предварительный запрет, сочтя ответные меры правительства, вероятно, незаконными.

Там же сообщается, что 8 апреля апелляционный суд округа Колумбия отказал Anthropic в приостановке. Суд сослался на нежелание заставлять армию продолжать отношения с нежеланным поставщиком критически важных ИИ-сервисов посреди крупного военного конфликта.

Пентагон опирался на два разных обозначения, поэтому дело слушалось в двух судах. Суд в Сан-Франциско признал одно из них незаконным, а 25 сентября апелляционный суд округа Колумбия большинством 2–1 поддержал второе. Это решение разрешает Пентагону и дальше убирать Claude и запрещает подрядчикам применять модель в оборонной работе.

Пока шли суды, Пентагон подписал контракты с Google, xAI и OpenAI

Параллельно с тяжбой министерство заключило контракты с Google, xAI и OpenAI. По словам двух людей, знакомых с использованием ИИ в оборонном ведомстве, в последние месяцы инструменты OpenAI шире распространились в некоторых военных подразделениях. Бывший высокопоставленный чиновник минобороны рассказал BBC, что когда Хегсет впервые приказал вывести Anthropic, переход на OpenAI и другие инструменты вызывал опасения.

Отношения Anthropic с Белым домом BBC описывает как теплеющие: на прошлой неделе Трамп дважды встречался с Амодеи. После одной из встреч Амодеи сказал журналистам, что риски ИИ его по-прежнему беспокоят и способы с ними справиться ещё обсуждаются, но, работая с президентом, можно выиграть безопасно. Трамп назвал его «великолепным» и «фантастическим».

Апелляционный суд счёл риском сами отказы Claude, а не мотивы Anthropic

Ключевой вопрос дела в том, что считать риском для цепочки поставок. Большинство апелляционного суда решило, что определение из закона FASCSA охватывает возможность поставщика «манипулировать» технологией, чтобы «отказать» в её работе или нарушить её. По формулировке суда, значение имеет то, что делает Anthropic, а не зачем, поэтому встроенные при обучении отказы Claude могут подпадать под это определение.

Представьте поставщика замков, который заранее решил, какие двери его замок не откроет, даже если у вас есть ключ. Для суда в такой логике неважно, из каких побуждений он так сделал: замок, способный не сработать по воле производителя, уже считается риском.

Как пишет Clarkhill, суд также принял довод, что ИИ-модели непрозрачны, быстро меняются и по-разному отвечают на вариации запросов. Поэтому тестирование перед развёртыванием или исключения по отдельным системам могут не снять опасений министерства, и полный разрыв суд признал разумным решением.

Из заявления Пентагона неясно главное: почему отказ занял больше обещанных шести месяцев и что именно пришло на место Claude внутри Maven. Собеседники BBC в основном анонимны, а решение апелляции пока не окончательное. На наш взгляд, история с Maven хорошо показывает цену глубокой интеграции одной модели в платформу: суд признал полный разрыв разумным, но на практике его не уложили даже в собственный срок Хегсета.

Что решит пересмотр дела 2–1

Решение апелляционного суда от 25 сентября не вступило в силу сразу, чтобы Anthropic могла попросить о повторном слушании или о рассмотрении дела полным составом суда. Следующей инстанцией может стать Верховный суд. Подала ли компания такие ходатайства и когда суд к ним вернётся, в материалах не сообщается.