The Intercept: Пентагон просил у OpenAI минимум отказов

Пентагон запросил у OpenAI версию моделей, которая отклоняла бы военные команды как можно реже: формулировка «минимальная частота отказов» стоит в контрактном документе P00003, который издание The Intercept получило по иску о свободе информации и который расширяет прошлогоднюю сделку на прототипы стоимостью до 200 миллионов долларов за два года.

Коротко

• В разделе о поставляемых результатах Mission Models описаны как модели OpenAI, созданные для сценариев национальной безопасности и обладающие минимальной частотой отказов; что это за задачи, в бумагах не раскрывается.
• OpenAI и Пентагон отрицают эту формулировку: пресс-секретарь Нейт Эванс называет полученный документ ранней редакцией министерства, которую компания отклонила, а представитель ведомства Джейкоб Блисс говорит, что фразы нет в действующих контрактах.
• 27 февраля OpenAI подписала соглашение о работе сервисов в закрытых сетях американских военных: раздел про Mission Models там сохранил прежний заголовок, но текст вымаран целиком.

Пределы применения ИИ на войне в этой истории задаёт не публичная политика компаний, а текст закупочного договора: формулировки о защитных ограничениях становятся предметом переговоров между ведомством и подрядчиком. Уровень безопасности модели в закрытых сетях тем самым зависит от переговорной силы поставщика и от того, что государство готово зафиксировать письменно. Судя по всему, для военного заказчика ценность системы измеряется и тем, насколько редко она отказывается выполнять команду.

В документе Mission Models определены как модели OpenAI с минимальной частотой отказов

Формулировка находится в части контракта, перечисляющей обязательства OpenAI перед Пентагоном. Среди них значатся «тестирование, оценка и доработка Mission Models компании OpenAI» под «наборы задач национальной безопасности». Сам документ определяет Mission Models как модели OpenAI, предназначенные для сценариев национальной безопасности и имеющие минимальную частоту отказов.

Что именно входит в эти наборы задач и какие запросы военные хотели бы видеть неотклонёнными, в бумагах не описано. Публичная версия ChatGPT на просьбу расставить приоритеты для ударов беспилотников по конкретным комбатантам отвечает отказом; разработчики больших языковых моделей также запрещают использовать их для создания оружия массового поражения.

Хайди Хлааф, главный научный сотрудник AI Now Institute и бывший инженер по безопасности систем в OpenAI, сказала The Intercept, что минимальные отказы, вероятно, означают отсутствие или почти полное отсутствие защитных ограничений в используемой модели. По её словам, тревожна и сама идея отдельных ограничений для задач национальной безопасности. Хлааф также называет тревожным то, что частные компании принимают в военной сфере решения, которые остаются обязанностью государства.

Юрист Минюста сначала подтвердил подлинность P00003, а через несколько часов отозвал подтверждение

Запрос The Intercept по закону о свободе информации касался только финальных подписанных контрактных документов и прямо просил исключить черновые материалы. Ни одна из бумаг, выданных по иску, не помечена как проект. Отдельный документ, подписанный OpenAI и государством 6 февраля, фиксирует согласие компании с содержанием расширенной версии P00003.

Представитель Минюста, защищающий Пентагон в этом деле, подтвердил, что речь идёт о подписанной и исполненной версии контракта. Через несколько часов, после обращения The Intercept в OpenAI, он попросил не учитывать это подтверждение и сослался на необходимость дополнительной проверки. Спустя несколько дней он заявил, что документ не был финальной версией и что «правильный» будет передан позже, без определённого срока.

Затем с изданием связался Тревор Тидеман, специальный помощник заместителя министра войны по исследованиям и разработкам, до Пентагона работавший в предвыборном штабе Дональда Трампа. Он допустил, что документ с формулировкой мог быть черновиком, но сказал, что не знает точно, что это за файл и почему его выдали по запросу.

Anthropic связывает срыв своей сделки с отказом Пентагона прописать запреты

В 2025 году OpenAI, Google, xAI и Anthropic согласились разрабатывать военизированные прототипы своих передовых моделей для логистики, принятия разведывательных решений и общего «ведения войны». В начале этого года Пентагон захотел расширить эти соглашения и развернуть их в закрытых компьютерных сетях США.

Anthropic утверждает, что её сделка о выходе в закрытые сети сорвалась, когда министерство отказалось прописать запрет на применение технологии в автономных системах вооружения и для слежки внутри страны. Администрация Трампа объявила компанию риском для цепочки поставок и попыталась закрыть ей доступ к госструктурам; в конце прошлого месяца федеральный судья отменил это решение.

27 февраля OpenAI подписала очередную версию соглашения с Пентагоном, разрешающую работу её сервисов в закрытых военных сетях. В OpenAI заявляют, что добились красных линий по автономным убийствам и слежке за американцами, однако, по оценке The Intercept, договор составлен так, что допускает любое применение, которое государство сочтёт законным.

Когда Пентагон покажет подписанную версию

Пентагон обещал передать The Intercept «правильную» версию контракта, однако сроков не назвал. Тревор Тидеман говорил, что подготовит полный отчёт о том, как документ был помечен сотрудниками по FOIA, одобрен к выдаче и затем подтверждён юристами ведомства как подлинный. Появится ли такой отчёт и раскроют ли текст исполненного соглашения, пока неясно.