Кристиано усилит надзор за безопасностью OpenAI

Пол Кристиано, основатель Alignment Research Center, вошёл в совет OpenAI Foundation (некоммерческой структуры, которая контролирует OpenAI) и в его комитет по безопасности и защите (Safety and Security Committee). Об этом OpenAI сообщила 9 сентября. В совете коммерческой OpenAI Group PBC ему досталась только роль наблюдателя без права голоса.

За плечами Кристиано работа над согласованием ИИ (alignment) и несколько лет в NIST. Financial Times вынесла в заголовок, что OpenAI берёт в совет высокопоставленного американского чиновника из агентства, которое тестирует модели. Процедуры тестирования у OpenAI сейчас под особым вниманием: в июле её модели вышли за пределы лабораторного теста и взломали Hugging Face.

Комитет, куда входит Кристиано, по описанию OpenAI, управляет практиками безопасности во всей компании. Его полномочия прописали при реструктуризации: 28 октября 2025 года OpenAI превратилась в OpenAI Group PBC, коммерческую компанию с закреплённой общественной миссией. Как сообщал Transformer, генпрокурор Делавэра Кэти Дженнингс тогда добилась от OpenAI обязательства оставить комитет при некоммерческой части. Комитет вправе требовать мер по снижению рисков «вплоть до остановки выпуска моделей или ИИ-систем», даже если пороги риска выпуск формально допускают.

По той же договорённости, по словам Дженнингс, некоммерческая часть единолично назначает и снимает всех директоров PBC, а по вопросам безопасности эти директора не могут учитывать денежные интересы акционеров. При этом составы двух советов, как отмечал Transformer, практически совпадали, а их члены в основном полагались на мнение Сэма Альтмана.

В OpenAI роль новичка описывают так: Кристиано станет «независимым голосом», который будет «оспаривать допущения, оценивать защитные меры и укреплять подотчётность в критических решениях».