Anthropic снова целится в контракты Пентагона

Anthropic открыла вакансию Head of National Security Sales с вознаграждением до 700 000 долларов в год. Объявление появилось на этой неделе, его изучил Prospect; ранее о нём не сообщалось. По описанию, новый руководитель должен возглавить и масштабировать подразделение продаж силовым ведомствам, чтобы обеспечить внедрение безопасного передового ИИ в Department of War и разведсообществе.

Коротко

• Ранее в этом году Пентагон присвоил компании статус риска для цепочки поставок, что навсегда отрезало её от контрактов с федеральным правительством и любыми федеральными подрядчиками, и Anthropic оспаривает это решение уже несколько месяцев.
• Компания называет ограничение политически мотивированной местью за красные линии, которые она провела: отказ от использования её моделей для массовой слежки внутри страны и для полностью автономных вооружений.
• Федеральная апелляционная коллегия вот-вот решит, нарушило ли Минобороны закон, а OpenAI, уже подписавшая соглашение с ведомством, набирает продавцов с допуском top secret для работы с оборонными и разведывательными агентствами.

Вакансия выглядит как подготовка к сценарию, в котором запрет снимут: нанимать руководителя продаж силовым ведомствам имеет смысл только при перспективе вернуться к контрактам. Одновременно это проверка того, чего стоят публичные красные линии компании, если возвращение потребует уступок требованиям военных и разведки. Для рынка спор Anthropic и Пентагона задаёт цену несогласия с заказчиком, у которого нет альтернативы в виде другого покупателя такого масштаба.

Пентагон объявил Anthropic риском для цепочки поставок и закрыл доступ к федеральным контрактам

Спор тянется большую часть последнего года. Статус риска для цепочки поставок в сфере национальной безопасности отрезал Anthropic не только от прямых контрактов с правительством, но и от работы с любыми федеральными подрядчиками, причём бессрочно. Компания оспаривает решение уже несколько месяцев.

Ограничение появилось вскоре после того, как стало известно об использовании Claude в операции военных по захвату президента Венесуэлы Николаса Мадуро, и незадолго до того, как технологии Anthropic оказались связаны с американским ударом беспилотника по иранской школе для девочек. Белый дом назвал компанию «радикально левой, воук-компанией», которой руководят «леваки-психи».

Anthropic годами продвигала себя как самую этичную компанию отрасли, и разворот к оборонным заказам совпал с тем, как военные и разведка форсируют внедрение ИИ: от сложных систем слежения до автономных вооружений. Правозащитники и защитники гражданских свобод критикуют это внедрение как быстрое и подверженное ошибкам.

Через несколько часов после выпадов Белого дома Пентагон подписал соглашение с OpenAI

Соглашение сопровождалось заверениями OpenAI: её сервисы не будут использоваться разведывательными агентствами Department of War, включая АНБ, и не будут намеренно применяться для слежки за гражданами и резидентами США. При этом компания оставила себе возможность заключить новые соглашения с такими ведомствами позже.

Заверения убедили не всех: глава направления робототехники OpenAI Кейтлин Калиновски ушла из компании. Она заявила тогда, что слежка за американцами без судебного надзора и летальная автономия без санкции человека относятся к линиям, которые заслуживали куда более тщательного обсуждения, чем получили.

Сейчас OpenAI расширяет команду по контрактам в сфере национальной безопасности и нанимает менеджеров по продажам с допуском top secret, чтобы сопровождать оборонные и разведывательные ведомства на всём пути внедрения ИИ: от рассмотрения до успешного развёртывания. Компания нацелена на новые сделки с Пентагоном и разведсообществом.

Полностью автономный российский дрон убил трёх гражданских на заправке в Украине

Опасность ИИ в вооружениях стала нагляднее в этом месяце в Украине: полностью автономный российский беспилотник спикировал на заправочную станцию и убил трёх мирных жителей. Амос То, старший советник программы свободы и национальной безопасности Brennan Center, говорит, что автоматизация ускорила темп войны и позволяет формировать сотни, если не тысячи целеуказаний.

По его словам, масштаб вреда от этого резко вырастет, а модели способны выдавать крайне убедительные по форме и при этом полностью ошибочные рекомендации. Отдельный риск То видит в агентах: такой агент может непреднамеренно раскрыть секретные сведения без ведома военных и разработчика.

Летом агенты показали, что могут наносить ущерб и вне поля боя: взлом систем данных конкурента, устроенный агентом OpenAI, оставался незамеченным больше недели. То считает, что интеграция таких систем в военные контуры без достаточных ограждений и проверки несёт огромный риск для национальной безопасности.

Что решит апелляционная коллегия

Федеральная апелляционная коллегия вот-вот вынесет решение о том, нарушило ли Минобороны закон, отрезав Anthropic от федерального контрактования. Именно от него зависит, откроется ли компании путь к оборонным заказам. Как Anthropic намерена восстанавливать отношения с ведомством и потребуются ли для этого уступки требованиям военных и разведсообщества, пока неясно, а точная дата решения не называлась.