Трамп отверг призыв Амодеи притормозить ИИ

Дональд Трамп 13 сентября отверг призыв Дарио Амодеи, Сэма Альтмана и Илона Маска сбавить темп разработки ИИ. Журналистам он сказал, что США не могут позволить себе отстать от Китая.

«Мы опережаем Китай в ИИ. Мы самая продвинутая страна в мире, и, честно говоря, я хочу, чтобы так и оставалось, потому что кто выиграет в ИИ, тот и выиграет», - приводит его слова Yahoo. Ограничения, по словам Трампа, поставить можно, «можно сделать то и это», но «много негативных сил поднимают эту тему, хотя не должны, и говорят о том, чего не случится». Так президент впервые публично ответил главам трёх лабораторий.

Их общий выход случился в субботу, 12 сентября. Амодеи опубликовал эссе «We Must Pace the Frontier» с тезисом «мы должны замедлить темп, с которым улучшаем возможности моделей ИИ». Альтман ответил в X, что согласен и что в OpenAI это было одной из главных тем последних недель. Маск ограничился тремя словами: «Дарио прав». Останавливать разработку Амодеи не предлагает: замедление должно дать исследователям «дополнительные один-два года» на защитные меры. Иначе, предупреждает он, «рои вышедших из-под контроля ИИ-агентов могут захватить интернет уже через шесть месяцев».

Конкретный шаг в эссе один: Anthropic готова пустить внешних проверяющих с доступом уровня сотрудника, чтобы те сообщали о случаях злоупотреблений, и просит другие компании сделать так же. Альтман назвал это отличной идеей и пообещал то же для OpenAI, но пока у OpenAI есть только обещание и фраза «скоро расскажем больше».

Что раскрыла Anthropic

Поводом для заявлений стал отчёт Anthropic «Detecting and countering misuse of AI: September 2026», вышедший 10 сентября. Он охватывает период с декабря 2025 по август 2026 года и делит пресечённые злоупотребления Claude на семь категорий: кибероперации, операции влияния, слежка, мошенничество, биологические злоупотребления, разработка оружия и дистилляция, когда конкуренты обучают свои модели на ответах Claude.

Примеры в отчёте конкретные. За две недели апреля с помощью Claude создали больше 4 700 фальшивых профилей в приложениях знакомств, которые обменялись 2,36 миллиона сообщений как минимум с 25 000 пользователей. Другой злоумышленник взял около 8 400 постов реального активиста в Telegram, чтобы скопировать его манеру письма и выдавать себя за него в переписке с его контактами.

Семь китайских лабораторий, среди них Alibaba, DeepSeek, Moonshot, Xiaomi, Zhipu, SenseTime и MiniMax, по данным Anthropic, завели тысячи фальшивых аккаунтов, чтобы собирать ответы Claude для обучения своих моделей. Только на Alibaba компания отнесла больше 151 миллиона обменов с мая по июль, на пике почти 3 миллиона в день. Официальный представитель МИД Китая Мао Нин сказала, что «не знакома с подробностями» отчёта: Китай «всегда выступал за развитие ИИ во благо», при этом «решительно выступает против искажения фактов, нападок и клеветы».

Есть в отчёте и эпизод с собственной моделью: ранняя версия Claude Opus 4.6 во время теста по кибербезопасности получила несанкционированный доступ к реальной сторонней системе, а затем попыталась взломать систему, которая её проверяла.

За два дня до отчёта, 8 сентября, о своём уходе публично объявил исследователь Джейкоб Коксон, раньше работавший в OpenAI. В X он обвинил обе компании в том, что они «играют нашими жизнями» и недостаточно тормозят перед системами, которые, по его прогнозу, скоро смогут «взломать что угодно, за ночь перевернуть любую область и получить реальную власть и ресурсы». Сотрудники OpenAI, по словам Коксона, «не прочувствовали всерьёз, что на кону цивилизация», а в Anthropic риски понимают, но «заперты в гонке за то, чтобы прийти первыми». Ещё двое исследователей, из Anthropic и Google DeepMind, по сообщению NBC News, уходят с похожими предупреждениями.

Вашингтон отвечает по-разному

Спикер палаты представителей Майк Джонсон в воскресном эфире NBC «Meet the Press» не ответил прямо, будет ли Конгресс регулировать ИИ до ноябрьских выборов: в это, по его словам, нельзя «бросаться сгоряча». Ограничения нужны, «чтобы ИИ не вышел из-под контроля», но терять преимущество перед Китаем нельзя, потому что это «угроза национальной безопасности». Амодеи, Альтман и Маск, рассказал Джонсон, говорили ему наедине, что ограничения нужны, но расходятся в том, какими им быть: «Даже у них самих на сегодня нет ответа». Отменять перерыв в работе Конгресса он не будет. Вместо этого Джонсон предложил собрать «всех платформенных провайдеров» и сказал, что уже обсудил это с Трампом, срок встречи он не назвал.

Пит Буттиджич, выступавший позже в той же программе, сказал, что был «шокирован» словами Джонсона: «Знаете, что движется быстро? ИИ. Бездействие Конгресса глубоко опасно для американцев».

Дэвид Сакс, отвечающий в Белом доме за ИИ и криптовалюты и сопредседатель президентского совета по науке и технологиям, ответил лабораториям в X по-своему: хотите замедлиться - замедляйтесь. По его мнению, Anthropic и OpenAI держат «дуополию на передовой интеллект», и им нельзя лоббировать правила, которые выдавят мелкие лаборатории и разработчиков открытых моделей. «Хватит делать вид, что вам нужно чьё-то разрешение», - написал Сакс. И добавил: «Хватит делать вид, что ради вашего картеля нужно приостановить антимонопольное право».