OpenAI зовёт независимых математиков в советники по анонсам

Свои достижения в математике OpenAI намерена теперь сверять с людьми со стороны: компания сообщила в X, что работает с независимой группой математиков и будет советоваться с ней о том, как проверять и как подавать новые результаты.

Коротко

• Мандат группы описан четырьмя пунктами: оценка новых математических результатов, их формулировка для публики, соблюдение академических и профессиональных стандартов и инструменты для исследований и учёбы.
• Цель, как её описывает сама OpenAI, в том, чтобы математики оказались в центре решений о том, как ИИ помогает понимать математику и как польза от него доходит до сообщества.
• Ни имён участников, ни размера группы, ни порядка работы в объявлении нет, как и того, обязательна ли рекомендация советников перед очередным громким анонсом компании.

Если вы не следили за сюжетом: в сентябре OpenAI перестала спонсировать математический хакатон в Caltech. По данным Reddit, математики Caltech в открытом письме писали, что мероприятие, по их оценке, скорее всего окажет разрушительное влияние. Новая группа появляется на этом фоне.

Мандат в анонсе разложен по направлениям: как OpenAI оценивает новые математические результаты, как она о них сообщает, как держит академические и профессиональные стандарты и какие инструменты строит для исследований и учёбы. Отдельно компания говорит, зачем ей это: она хочет, чтобы математики были в центре того, как ИИ помогает понимать математику и как эта польза доходит до широкого сообщества.

Первые два пункта стоит развести, потому что работа за ними разная. Оценка отвечает на вопрос, верен ли результат и как он получен. Формулировка отвечает на другой: какими словами сказать о нём, чтобы аккуратный частный результат не прочитали как закрытие большой задачи. Примерно та же разница, что между рецензентом журнала и человеком, который пишет к статье пресс-релиз.

Третий пункт, академические и профессиональные стандарты, в математике означает вещи довольно конкретные: кто считается автором результата, как оформлена ссылка на чужую лемму, что считается проверенным доказательством, а что наброском. Что именно из этого списка группа будет разбирать, в объявлении не уточняется.

В анонсе нет ни одной фамилии, ни размера группы, ни описания процедуры: как часто советники смотрят материалы и на каком этапе. Судя по формулировкам, роль у группы совещательная, а решение остаётся за компанией. Странно, на наш взгляд, отдельно подчёркивать независимость и при этом не назвать ни одного участника.

Когда назовут имена

Состав не объявлен, сроки его публикации тоже. Проверить работу группы можно будет на первом же математическом заявлении OpenAI после этого анонса: появится ли указание, кто смотрел результат до публикации, и станет ли формулировка аккуратнее прежних. О графике встреч, отчётах и о том, будет ли хоть часть советов публичной, в объявлении не сказано ничего.