Второй математик обвинил OpenAI в нечестности

Андреас Том, профессор геометрии TU Dresden, обвиняет OpenAI в нечестности насчёт данных обучения. По его словам, его собственные диалоги с ChatGPT могли попасть в математические результаты, которые OpenAI объявила как достижения своей модели. Свои претензии Том изложил в постах в Mastodon, о его обвинениях 11 сентября написал QZ.

Речь о пакете, который OpenAI выложила 1 августа. Внутренняя версия её следующей крупной модели Astra, как утверждает компания, получила десять новых результатов в математике и теоретической информатике, и каждая из задач оставалась открытой не меньше десяти лет. К ним приложены рукопись на 249 страниц и сертификаты на Lean 4 для каждого результата, все они лежат на GitHub. Главный из десяти результатов - первая явная конструкция несофичной группы. Вопрос о таких группах стоял с 1999 года, когда понятие софичности ввёл Михаил Громов. Софичные группы, грубо говоря, можно сколь угодно точно приблизить конечными группами перестановок, и долго оставалось неясным, существуют ли вообще группы, которые так приблизить нельзя.

Это ровно область Тома. Как сообщает The Verge, результат OpenAI о несофичных группах во многом построен на прежних работах Тома и Габора Куна.

Сертификаты Lean снимают вопрос, верны ли доказательства: их может перепроверить любой, у кого есть компилятор Lean, без доверия к модели или к OpenAI. Но претензия Тома касается другого, и на неё формальная проверка ответить не может уже по устройству: она подтверждает, что каждый шаг вывода корректен, и ничего не говорит о том, откуда модель взяла идею.

Сами результаты математики приняли тепло. Томас Блум, который ведёт erdosproblems.com, назвал их в X «большой новостью» и оценил выше, чем предыдущее заявление OpenAI о контрпримере к гипотезе Эрдёша о единичных расстояниях. При этом в июне математики выпустили Лейденскую декларацию, которую поддержал Международный математический союз. Как рассказывает TNW, в ней говорится, что ИИ-компании используют опубликованные исследования без согласия авторов, обходят рецензирование и ставят под угрозу честность доказательств и указания авторства.

Том стал вторым математиком, открыто выступившим против OpenAI. По словам The Verge, первым был Тристан Бакмастер: несколькими днями ранее он оспорил то, что OpenAI называет решением задачи Навье-Стокса.