Второй математик обвинил OpenAI в нечестности

Как сообщает QZ, профессор геометрии Дрезденского технического университета Андреас Том стал вторым математиком, публично обвинившим OpenAI в нечестности относительно источников обучающих данных: в Mastodon он написал, что его диалоги с ChatGPT могли лечь в основу математических результатов, о которых OpenAI объявила ранее.

Коротко

• По данным The Verge, один из десяти математических результатов, о которых объявила OpenAI, относится к non-sofic группам, области, которой профессионально занимается сам Том, профессор геометрии Дрезденского технического университета.
• Объявленный OpenAI результат по non-sofic группам, как пишет The Verge, сильно опирается на более ранние работы самого Тома и математика Габора Куна, то есть на публикации, появившиеся раньше анонсов OpenAI.
• До заявления Тома претензии к OpenAI публично высказывал математик Тристан Бакмастер: по данным The Verge, несколькими днями ранее он поднял спор о доказательстве по уравнениям Навье-Стокса.

Спор касается самой ценной части математических анонсов OpenAI: того, насколько результат выглядит полученным моделью самостоятельно. Если рабочие сессии исследователей неотличимы от вклада самой модели, вес таких объявлений снижается, а у специалистов появляется причина осторожнее относиться к использованию чат-ботов для черновых рассуждений. Судя по всему, продолжением истории станет давление на OpenAI по вопросу о том, что именно входит в обучающие данные, как туда попадают пользовательские диалоги и в какой форме это раскрывается.

Том занимает должность профессора геометрии в Дрезденском техническом университете, а свои замечания он опубликовал в Mastodon. По его словам, его собственные диалоги с ChatGPT могли внести вклад в математические достижения, о которых затем объявила OpenAI. Том также считает, что OpenAI нечестно говорит о происхождении обучающих данных.

Один из результатов, о которых объявила OpenAI, относится к non-sofic группам. По данным The Verge, всего было объявлено десять математических результатов, и non-sofic группы занимают в этом списке один пункт; по данным того же издания, это область, в которой работает сам Том, а объявленный результат сильно опирается на более ранние работы Тома и Габора Куна.

Претензия Тома касается происхождения обучающих данных, а не корректности самих доказательств. Она стала вторым публичным конфликтом вокруг математических анонсов OpenAI: по данным The Verge, несколькими днями ранее математик Тристан Бакмастер поднял спор о доказательстве по уравнениям Навье-Стокса. Оба заявления прозвучали от самих математиков, публично.

Чем подтвердить претензию Тома

Состав обучающих данных OpenAI публично не раскрывает, поэтому связь между конкретными диалогами Тома и объявленными результатами проверить извне нечем. Открытым остается и вопрос, станет ли OpenAI подробнее описывать источники данных для математических анонсов. Пока спор держится на публичных заявлениях математиков: Тома в Mastodon и Бакмастера по поводу доказательства по уравнениям Навье-Стокса.