OpenAI отрицает, что смотрела в чаты ради Навье-Стокса

OpenAI 12 сентября развела два вопроса о пользовательских данных. Первый: смотрел ли кто-то в них ради конкретного результата. Второй: идут ли эти данные в обучение моделей вообще. В ответе, опубликованном в Twitter, на первый вопрос сказано «нет», на второй «да».

Формулировки там прямые. «Смотрел ли какой-либо человек или агент на пользовательские данные во время работы над Навье-Стоксом? Нет», говорится в посте. Отзывы пользователей и деидентифицированные данные (из них убрана привязка к конкретному человеку) компания использует, чтобы улучшать ChatGPT и Codex в целом. «И так делает каждая LLM-компания».

Справочные страницы OpenAI описывают тот же механизм. ChatGPT дообучается на разговорах с ним, если пользователь не отключил эту опцию. Там же сказано, что компания разработала технологии, которые помогают моделям усваивать полезные общие закономерности, а не частную информацию о людях. Страницы о данных правили и в марте, и в конце августа 2026 года.

Навье-Стокс в ответе упомянут из-за отдельного спора. После того как OpenAI выложила своё доказательство, Тристан Бакмастер из NYU и исследователь Anthropic Левент Алпёге обвинили компанию в том, что она узнала об их неопубликованной работе и поспешила выпустить конкурирующее доказательство. Кроме того, как сообщает OfficeChai, Себастьен Бюбек якобы добивался, чтобы имя Алпёге убрали из совместной статьи, потому что тот работает в конкурирующей лаборатории. Письменный ответ OpenAI по тому спору устроен так же, как нынешний пост: ни один исследователь или агент не видел работу до публикации, к конкретным данным пользователей никто не обращался. Но компания «не может исключить, что деидентифицированные данные, полученные из их использования наших продуктов, помогли улучшить» её модели.

Тот же вопрос поставил и второй математик, профессор геометрии ТУ Дрезден Андреас Том, и он касается другого результата. В начале августа OpenAI объявила, что её модель Astra построила первую несофичную группу и закрыла открытую задачу геометрической теории групп, которую Михаил Громов поставил 27 лет назад. Центральный технический шаг доказательства опирается на статью Габора Куна и Тома 2019 года и на связанный с ней результат Куна 2016 года. Том говорит, что он и коллега из Дрездена месяцами обсуждали с ChatGPT задачу о паросочетаниях в экспандерах и расширения работы Куна-Тома.

После анонса Том написал Марку Селлке и Бюбеку и задал два отдельных вопроса: попали ли эти разговоры в обучающие данные и были ли они доступны системе, пока та работала над доказательством. Том приводит ответ Селлке: «Что касается ваших разговоров с ChatGPT: этого не было». По мнению Тома, это отвечает только на второй вопрос, а сама формулировка «неоправданно широкая и по существу вводит в заблуждение».

Тому показалось подозрительным, что Astra пошла именно по линии Куна-Тома, хотя, по его словам, этот путь не считался самым очевидным. По оценке OfficeChai, этот подход никогда не был главным кандидатом на решение вопроса о несофичности.

Обучение на своих данных Том отключил 29 июня. Он подчёркивает, что эта настройка работает только на будущее, снаружи её не проверить, и она оставляет открытым, что стало с более ранними разговорами или с данными, которые из них уже получены.

Том требует, чтобы за широким отрицанием стояло раскрытое основание: на каких данных, версиях моделей и настройках аккаунта оно построено. В пересказе OfficeChai речь идёт о контрольных точках обучения OpenAI и о простом определении «деидентифицированных данных, полученных из использования». А в тексте, который приводит heise online, Том отвечает на сам довод про деидентификацию: она может убрать имя, но не интеллектуальное содержание математической идеи.