Совбез ООН в среду послушает Сэма Альтмана про ИИ

Сэм Альтман лично выступит в Совете Безопасности ООН на открытом заседании об искусственном интеллекте и международной безопасности. О выступлении представитель OpenAI 18 сентября сообщил Reuters. Заседание из 15 членов Совбеза назначено на среду, 23 сентября, и пройдёт в Нью-Йорке в дни Генассамблеи ООН, когда туда съезжаются мировые лидеры.

В компании говорят, что Альтман будет говорить о необходимости международной координации и общих стандартов безопасности. Кроме того, он расскажет, что OpenAI делает, чтобы пользу от технологии получали люди по всему миру. Координация между лабораториями при этом уже идёт и без ООН: переговоры о безопасности между OpenAI, Anthropic и Google DeepMind к середине сентября шли несколько недель. Дипломаты, по сообщению Reuters, ждут на заседании и высокопоставленного представителя Anthropic, но это пока не подтверждено.

Заседание созвала Франция, председатель Совбеза в сентябре, а вести его будет министр Европы и иностранных дел Жан-Ноэль Барро. В концептуальной записке, которую Франция разослала членам Совета (Reuters её видело), говорится: «Ввиду риска использования этой технологии в злонамеренных целях и опираясь на уже имеющийся опыт работы Совета в этой области, Франция хочет подчеркнуть срочность действий в пользу безопасного и ответственного развития искусственного интеллекта на благо всего международного сообщества».

Участникам предлагают «представить свой анализ рисков, связанных с потерей контроля или с использованием новейших моделей ИИ для разработки, облегчения и проведения действий, влияющих на международную безопасность и мир». Про потерю контроля в записке пишут через считанные недели после того, как ряд лидеров ИИ-индустрии призвал согласованно замедлить разработку. Они предупреждали, что технология скоро сможет улучшать себя сама и выйти из-под контроля человека.

Впервые Совбез обсуждал риски ИИ в 2023 году. Тогда Китай заявил, что технология не должна стать «понёсшей лошадью», а США предостерегали от её использования для цензуры и подавления людей.

Альтман говорил об этих рисках задолго до нынешнего бума. В эссе «Machine Intelligence, part 1» 2015 года он назвал развитие сверхчеловеческого машинного интеллекта «вероятно, величайшей угрозой дальнейшему существованию человечества». Сроки он тогда оценивать не брался: большинству в отрасли, по его словам, казалось, что до такого интеллекта ещё «много-много лет». Но он описывал прогресс как двойную экспоненту, которая долго выглядит медленной, а потом «вдруг уходит вертикально». Злым, как в фантастике, такому интеллекту быть необязательно. Вероятнее, писал Альтман, что ему «просто не особенно есть до нас дело» и людей он уничтожит, добиваясь какой-то своей цели.