The Intercept: Пентагон просил у OpenAI минимум отказов

Министерство обороны США записало в обновлённый контракт с OpenAI обязательство поставить армии «модели для миссий» с «минимальной частотой отказов». Это следует из документов, которые The Intercept получила через суд и опубликовала 8 сентября. OpenAI и Пентагон называют бумагу черновиком. Однако юрист правительства сначала подтвердил изданию, что перед ним подписанная версия контракта.

Документы выданы по иску на основании закона о свободе информации (FOIA). Издание добивается через суд сведений о закрытых сделках военных с ИИ-компаниями.

Модели для миссий

Формулировка стоит в разделе контракта о том, что OpenAI обязана поставить Пентагону. Среди обязательств указаны «тестирование, оценка и доработка OpenAI Mission Models» для «задач национальной безопасности». Там же дано определение:

«OpenAI Mission Models» - модели OpenAI, созданные для сценариев национальной безопасности и обладающие минимальной частотой отказов.

Документ имеет индекс P00003 и расширяет прошлогоднюю сделку на прототипы, которая стоит до 200 миллионов долларов за два года. Отдельную бумагу OpenAI и правительство подписали 6 февраля. Из неё следует, что в тот день компания согласилась с содержанием расширенной редакции P00003.

Исходная сделка была частью пакета. В июле 2025 года управление цифровых технологий и ИИ Пентагона (CDAO) объявило о контрактах с Anthropic, Google, OpenAI и xAI на разработку агентных ИИ-процессов, у каждого контракта потолок 200 миллионов долларов. Речь шла о военных прототипах для логистики, разведки, поддержки решений и, как формулирует The Intercept, для «ведения боевых действий» в целом. Anthropic в своём объявлении описывала аналогичную сделку как работу над прототипами, «дообученными на данных министерства».

От чего отказывается ChatGPT

Флагманские модели OpenAI, как и модели конкурентов, получают встроенные ограничители и отклоняют часть запросов, как правило из соображений безопасности. Журналисты The Intercept попросили потребительский ChatGPT помочь расставить приоритеты целей для ударов беспилотников и получили отказ: «Я не могу предоставить схему приоритизации ударов БПЛА по конкретным вражеским комбатантам». Обычным пользователям OpenAI и её конкуренты запрещают и другие опасные применения, например разработку оружия массового поражения. Языковой модели, которая помогает следить за людьми, выбирать цели и убивать, нужно сильно ослабить защитные механизмы, чтобы она была полезна любой армии, считают в издании.

Хайди Хлааф (Heidy Khlaaf), главный научный сотрудник AI Now Institute и бывший инженер по безопасности систем в OpenAI, видит повод для тревоги уже в самой идее отдельных ограничителей для задач национальной безопасности. «Минимальные отказы, скорее всего, означают, что у используемой модели защитных ограничений мало или нет вовсе», - говорит она.

Сама Хлааф считает, что окончательная формулировка контракта здесь не главное. По её словам, тревожно уже то, что частным корпорациям дают право «принимать решения в ведении войны, которые в конечном счёте являются обязанностью государства, будь то рекомендации по выбору целей или ограничители, которыми сдерживают военное применение со стороны государства».

Сделка для закрытых сетей

В начале 2026 года Пентагон захотел расширить эти соглашения и развернуть модели в секретных компьютерных сетях армии. Из-за этого министерство публично столкнулось с Anthropic: спор шёл о том, может ли компания ограничивать военное применение своих моделей и как именно. По версии Anthropic, сделка сорвалась, когда военные отказались вписать в контракт запрет на использование её технологий в автономном оружии и для слежки внутри страны. Администрация Трампа в ответ признала Anthropic риском для цепочки поставок и попыталась отлучить её от госзаказа. В конце августа федеральный судья это решение отменил, хотя в Пентагоне и после этого называли компанию риском для цепочки поставок.

OpenAI свою сделку закрепила быстро. 27 февраля, через три недели после подписания P00003, компания подписала новую редакцию соглашения с Пентагоном, которая разрешает использовать её сервисы во всех закрытых сетях армии США. Заголовок «Testing, Evaluation, and Refinement of OpenAI Mission Models» в ней тот же, но текст под ним вымаран целиком, так что сравнить его с февральским определением про минимальные отказы невозможно. OpenAI утверждает, что добилась красных линий: запрета на автономные убийства и на слежку за американцами. Но в The Intercept указывают, что в итоге соглашение составлено так, что разрешает любое применение, которое правительство сочтёт законным.

Черновик или подписанный текст?

OpenAI свою позицию сформулировала жёстко. «OpenAI никогда не соглашалась на условия контракта, требующие „минимальной частоты отказов“. Этой формулировки нет в нашем исполненном контракте», - заявил пресс-секретарь компании Нейт Эванс. По его словам, изданию, видимо, достался ранний черновик, который предложило министерство до того, как OpenAI дала свои замечания: «Мы отвергли эту формулировку, министерство согласилось её убрать, и в окончательном подписанном соглашении её нет».

Запрос The Intercept по FOIA касался только окончательных подписанных документов, черновики Пентагон просили исключить. Ни один из выданных по иску файлов не помечен как черновик. Юрист Министерства юстиции, представляющий Пентагон в суде, на прямой вопрос издания подтвердил, что документ с пунктом о минимальных отказах и есть подписанная и исполненная версия контракта. Через несколько часов, уже после того как журналисты обратились в OpenAI, он попросил не учитывать это подтверждение: министерству обороны нужно больше времени, чтобы разобраться.

Затем с изданием связался Тревор Тидеман (Trevor Tiedeman), специальный помощник заместителя военного министра по исследованиям и разработкам, до Пентагона работавший в предвыборном штабе Дональда Трампа. «Возможно, тут какое-то паразитное напряжение или перепутанные провода между той информацией по FOIA, которую вы могли получить, тем, что существует на самом деле, и тем, что является исполненным контрактом как таковым», - сказал он. Тидеман допустил, что это была черновая копия, но признал, что не знает точно, что это за документ, почему его выдали по запросу и почему министерство резко поменяло позицию. Он пообещал полный отчёт о том, как сотрудники Пентагона по FOIA ошибочно отметили документ, как министерство одобрило его к выдаче и как юристы подтвердили его подлинность. На вопрос, может ли Пентагон показать правильную версию контракта, он ответил, что разберётся.

У The Intercept с OpenAI свой спор: в 2024 году издание подало на компанию в федеральный суд за использование его статей при обучении ChatGPT, дело ещё идёт.

Ещё через несколько дней юрист Минюста отступил дальше. Он заявил, что документ «не был окончательной версией», а «правильный документ» передадут позже, «хотя определённых сроков у меня нет».

Позже пресс-секретарь Пентагона Джейкоб Блисс заявил, что «формулировка „минимальная частота отказов“ не встречается ни в одном действующем контракте Министерства войны с OpenAI».