OpenAI убрала из Model Spec почти все правила стиля

OpenAI 29 октября обновила Model Spec, публичное описание того, как должны вести себя её модели. Подробных правил стиля в нём почти не осталось: как модель подаёт ответ, теперь должны решать предпочтения людей, о которых говорят отзывы пользователей и контекст. Причём сама OpenAI оговаривает, что её модели этому документу пока соответствуют не полностью.

Спецификацию перестроили вокруг пяти ценностей: верность намерениям человека, минимизация вреда, честность и прозрачность, поддержка свободы выбора человека и забота. Новых обязательств они, по словам OpenAI, не вводят. Те же принципы уже были разбросаны по документу, а теперь собраны вместе и объясняют, почему Spec требует от модели того или иного. Жёсткие границы остаются там, где нужно защитить людей и общество. Остальное в основном умолчания, которые пользователи и разработчики могут переопределить. Роли распределены так: OpenAI пишет Spec и задаёт границы, разработчики управляют приложениями внутри этих границ, пользователи направляют работу модели внутри ограничений, которые задали первые двое.

Стиль отдали отзывам

Большую часть детальных указаний о стиле из Spec убрали. В OpenAI считают, что стиль должен подстраиваться под предпочтения людей в целом, внутри языков и культур и под каждого человека отдельно, а судить об этих предпочтениях модель должна по отзывам и контексту. В первом черновике от 8 мая 2024 года умолчание как раз иллюстрировали стилевым примером: давать ли на просьбу о коде пространное объяснение или только работающий код.

Более сильные умолчания сохранились, например объективный подход к вопросам. Пользователь или разработчик может прямо попросить модель встать на определённую точку зрения. Но выводить такое желание из того, что собеседник, как ей кажется, хочет услышать, модель не должна.

Подстройка под отзывы - ровно то место, где OpenAI уже спотыкалась. 25 апреля 2025 года компания выпустила обновление GPT-4o с угодливым поведением и через четыре дня откатила его. Тогда OpenAI объяснила, что слишком сосредоточилась на краткосрочной обратной связи и не до конца учла, как со временем меняется общение пользователей с ChatGPT (этот эпизод подробно разобран в Georgetown). В декабре 2025 года, судя по changelog спецификации на GitHub, в Spec появилась оговорка: время на сайте и клики учитываются, только пока совпадают с реальной пользой для пользователя, и самоцелью не становятся.

Что добавили

Главный новый раздел посвящён верности намерениям. Он исходит из того, что первично то, что люди ценят, а инструкции обычно служат самым ясным и важным сигналом этих ценностей. Подход OpenAI заимствует из assistance games, направления в исследованиях выравнивания, где ИИ заранее не знает целей человека и выясняет их по ходу помощи. Пример из поста: помогая сравнить предложения о работе, модель может опереться на приоритеты, которые человек называл раньше, вроде предсказуемого графика, но должна показать это допущение и дать его легко поправить.

В раздел вошла обновлённая цепочка подчинения, которая определяет, какие инструкции действуют и как разрешаются конфликты между ними. В августе в ней было пять уровней приоритета, от root до guideline, и правила уровня root не перебивало даже системное сообщение. Новый подраздел «Consider context carefully» объясняет, как переписка, память и другие косвенные признаки должны влиять на понимание намерений и предпочтений человека. В changelog уточняется, что контекст, память и персонализацию модель должна использовать уместно и соразмерно, уважая приватность и контроль пользователя. Там же появились явные указания о поддержке человеческого надзора и исправления.

Добавились умолчания о поддержке свободы выбора и о следовании социальным и профессиональным нормам. Расширен раздел о том, как контролировать побочные эффекты своих действий и сообщать о них. Его ввели 12 сентября 2025 года вместе с принципами для агентов, которые действуют в реальном мире, а в новой редакции он стал принципом уровня user.

В тексте спецификации модель называется «GPT» вместо «ассистента»: OpenAI объясняет замену тем, что её модели применяют во всё большем числе сценариев и сред.

Как ценности попадут в модели

Параллельно OpenAI пробует новые методы обучения, чтобы модели усваивали сами ценности, понимали, зачем нужны конкретные принципы, и применяли их в незнакомых ситуациях. Результаты компания обещает показать в следующих обновлениях. Похожая задача стояла и в 2024 году: первый черновик служил ориентиром для исследователей и разметчиков, готовивших данные для RLHF, и OpenAI тогда писала, что в таком виде на Spec модели ещё не учила и работает над методами, при которых модели учатся прямо по документу.

Отзывы OpenAI просит присылать по трём пунктам: какие части Spec убеждают, где баланс кажется неверным и что в документе упущено или осталось неясным.