OpenAI зовёт независимых математиков в советники по анонсам

OpenAI 21 сентября объявила, что будет работать с независимой группой математиков. Группа будет советовать компании, как оценивать новые математические результаты и как о них сообщать. Она называется Advisory Group on Mathematics and Artificial Intelligence, базируется в Институте перспективных исследований (IAS) в Принстоне, и в ней девять человек.

В посте OpenAI в X у группы три задачи: проверка и подача результатов, соблюдение академических и профессиональных стандартов и инструменты для исследований и обучения. По замыслу компании, математики должны быть «в центре» решений о том, как ИИ помогает понимать математику. Состав группы опубликован на её сайте: Франсуа Шарль, Камилло Де Леллис, Тимоти Гауэрс, Мартин Хайрер, Никхил Шривастава, Ульрике Тильман, Рави Вакил, Эдвард Виттен и Мелани Мэтчетт Вуд.

Анонс последовал за внезапной публикацией решения задачи тысячелетия об уравнениях Навье-Стокса. OpenAI также утверждает, что та же внутренняя модель решила больше 100 других открытых задач в большинстве областей математики, отмечает TechCrunch. Ранее в сентябре 25 лауреатов Филдсовской премии подписали открытое письмо: ИИ-лаборатории, соревнуясь в решении знаменитых задач, ставят под угрозу их интеллектуальный труд. Из девяти членов группы письмо подписал только Де Леллис. А 10 сентября OpenAI отказалась спонсировать математический хакатон Caltech после письма тамошних математиков, по оценке которых мероприятие, скорее всего, окажет на сообщество разрушительное влияние.

Денег члены группы не получают. Они могут давать советы, о которых их не просили, высказываться публично и сами решают, кого принимать в группу. Их работа - оценивать значимость новых результатов и согласовывать, когда и как их выпускать. На сайте группы рассказано, как она появилась: OpenAI предложила части будущих участников войти во внешний консультативный совет, а они по договорённости с компанией вместо этого собрали независимую группу и пригласили остальных. Рекомендации группа обещает публиковать на сайте и готова консультировать любую ИИ-компанию, чьи модели могут серьёзно повлиять на математику.

По сообщению The Verge, 21 сентября группу представили и гостевым постом в блоге Теренса Тао, филдсовского лауреата и открытого критика того, как ИИ-компании ведут себя в математике. Там сказано, что группа будет консультировать OpenAI и другие передовые лаборатории «по проверке и подаче новых результатов». Но многие узнали о ней из более громкого анонса OpenAI, и это вызвало путаницу: действительно ли группа независима. Какие из девяти участников первыми получили предложение OpenAI, по-прежнему неясно. Хайрер сказал, что группа не получает от OpenAI ни финансовой, ни технической, ни какой-либо другой поддержки. По его словам, никто из участников не подписывал соглашений, ограничивающих то, что они могут говорить и делать, кроме стандартных условий конфиденциальности, без которых не получить ранний доступ к исследованиям.

Пределы своей роли обе стороны обозначили сами. В OpenAI пишут, что группа «не будет советовать нам, в каком темпе вести внутреннюю работу по математике». В IAS добавляют: «Мы будем давать советы, но у нас нет права принимать решения ни в одной ИИ-компании, и ответственность за решения любой компании лежит на самой компании».