Совбез ООН в среду послушает Сэма Альтмана про ИИ

Франция в концептуальной записке к заседанию Совбеза ООН просит участников изложить анализ рисков, связанных с «потерей контроля» над новейшими моделями ИИ. Разбирать их в среду будет в том числе Сэм Альтман: глава OpenAI лично выступит на открытом заседании Совета, сообщил представитель компании Reuters.

Коротко

• Заседание по искусственному интеллекту и международной безопасности созвала Франция, которая председательствует в Совбезе в сентябре; вести его будет министр Европы и иностранных дел Жан-Ноэль Барро.
• Альтман, по словам представителя OpenAI, сосредоточится на международной координации, общих стандартах безопасности и на том, что делает компания, чтобы выгоду от технологии получали люди во всём мире.
• Дипломаты ждут на заседании и высокопоставленных представителей Anthropic, но участие пока не подтверждено; чем именно закончится встреча, в известных материалах не говорится.

Если вы не следили: Совбез впервые обсуждал риски ИИ в 2023 году. Тогда Китай говорил, что технология не должна стать «понёсшей лошадью», а США предупреждали о её использовании для цензуры и подавления людей. По данным Security Council Report, то заседание прошло 18 июля 2023 года под председательством главы британского МИД Джеймса Клеверли, а брифинги давали генсек ООН Антониу Гутерриш, сооснователь Anthropic Джек Кларк и И Цзэн из Китайской академии наук.

Заседание созвала Франция, вести его будет Жан-Ноэль Барро

Встреча пройдёт в среду в Нью-Йорке, в дни Генассамблеи ООН, когда в городе и так собраны первые лица. Созвала её Франция, председатель Совбеза в сентябре, а вести заседание будет министр Европы и иностранных дел Жан-Ноэль Барро. В Совете 15 членов, и заседание открытое: на такие пускают не только членов Совбеза, но и другие страны, прессу и приглашённых докладчиков.

Представитель OpenAI сказал Reuters, что Альтман выступит на открытом заседании Совбеза лично. По словам того же представителя, речь пойдёт о международной координации, общих стандартах безопасности и о шагах, которые предпринимает OpenAI, чтобы выгоду от технологии получали люди по всему миру.

Записка Франции говорит о срочности действий

Франция разослала членам Совета концептуальную записку, текст которой видело Reuters. В ней сказано: в свете риска злоупотребления этой технологией в злонамеренных целях и с опорой на прежнюю работу Совета Франция подчёркивает срочность действий ради безопасного и ответственного развития ИИ на благо всего международного сообщества.

Там же описана задача встречи: дать участникам представить свой анализ рисков, связанных с потерей контроля либо с использованием новейших моделей для подготовки и проведения действий, влияющих на международный мир и безопасность. Заседание идёт через считанные недели после того, как несколько лидеров ИИ-индустрии призвали согласованно замедлить развитие технологии, предупредив, что модели скоро смогут улучшать сами себя и выйти из-под контроля человека.

Альтман предупреждал о рисках ещё в эссе 2015 года

В тексте «Machine Intelligence, part 1» он писал, что развитие сверхчеловеческого машинного интеллекта, вероятно, величайшая угроза дальнейшему существованию человечества. Это было задолго до нынешнего бума и до того, как OpenAI стала выпускать продукты для широкой публики.

По данным Center for AI Safety, Альтман значится среди подписантов заявления о риске вымирания из-за ИИ: в нём сказано, что снижение такого риска должно стать глобальным приоритетом наравне с пандемиями и ядерной войной. В том же списке, по данным Center for AI Safety, генеральный директор Anthropic Дарио Амодеи и президент компании Даниэла Амодеи, а также Джеффри Хинтон, Демис Хассабис и Илья Суцкевер.

Откуда вообще берутся данные о злоупотреблениях моделями?

Из отчётов самих лабораторий. В материалах Anthropic описана программа разведки угроз: сентябрьский отчёт 2026 года «Detecting and countering misuse of AI» разбирает пресечённые случаи злоупотребления моделями Claude с декабря 2025 по август 2026 по направлениям кибероперации, информационные операции, слежка, биологические риски, разработка обычных вооружений и незаконная дистилляция; предыдущие отчёты выходили в марте, августе и ноябре 2025 года.

Там же, по данным Anthropic, объяснён метод: замеченных злоумышленников сводят во внутренние группы Generative Threat Groups, а прирост их возможностей от ИИ, uplift, меряют по скорости, масштабу и глубине. Примерно так банк разбирает мошенничество: важно не только что схема существует, но и насколько быстрее и шире она работает, чем год назад.

В анонсе нет самого интересного: что конкретно OpenAI считает шагами ради всеобщей выгоды и что Совет будет делать с услышанным после среды. Участие Anthropic на момент сообщения оставалось неподтверждённым, хотя дипломаты его ждут. На наш взгляд, самое содержательное в этой новости пока формат: заседание открытое, то есть выступления услышит не узкий круг за закрытыми дверями.

Среда в Нью-Йорке

В среду заседание ведёт Барро, и следить стоит за двумя вещами. Подтвердится ли высокое представительство Anthropic, о котором говорили дипломаты. И прозвучит ли в выступлениях та самая формулировка о потере контроля из записки Франции, или разговор уйдёт к сегодняшним злоупотреблениям вроде киберопераций. О публикации текста выступления Альтмана в анонсе ничего не сказано.