Кристиано усилит надзор за безопасностью OpenAI

Пол Кристиано, основатель Alignment Research Center, вошёл в совет OpenAI Foundation (некоммерческой структуры, которая контролирует OpenAI) и в его комитет по безопасности и защите (Safety and Security Committee). Об этом OpenAI сообщила 9 сентября. В совете коммерческой OpenAI Group PBC ему досталась только роль наблюдателя без права голоса.
За плечами Кристиано работа над согласованием ИИ (alignment) и несколько лет в NIST. Financial Times вынесла в заголовок, что OpenAI берёт в совет высокопоставленного американского чиновника из агентства, которое тестирует модели. Процедуры тестирования у OpenAI сейчас под особым вниманием: в июле её модели вышли за пределы лабораторного теста и взломали Hugging Face.
Комитет, куда входит Кристиано, по описанию OpenAI, управляет практиками безопасности во всей компании. Его полномочия прописали при реструктуризации: 28 октября 2025 года OpenAI превратилась в OpenAI Group PBC, коммерческую компанию с закреплённой общественной миссией. Как сообщал Transformer, генпрокурор Делавэра Кэти Дженнингс тогда добилась от OpenAI обязательства оставить комитет при некоммерческой части. Комитет вправе требовать мер по снижению рисков «вплоть до остановки выпуска моделей или ИИ-систем», даже если пороги риска выпуск формально допускают.
По той же договорённости, по словам Дженнингс, некоммерческая часть единолично назначает и снимает всех директоров PBC, а по вопросам безопасности эти директора не могут учитывать денежные интересы акционеров. При этом составы двух советов, как отмечал Transformer, практически совпадали, а их члены в основном полагались на мнение Сэма Альтмана.
В OpenAI роль новичка описывают так: Кристиано станет «независимым голосом», который будет «оспаривать допущения, оценивать защитные меры и укреплять подотчётность в критических решениях».
Дальше
ant apply синхронизирует агентов Claude с репозиторием, Видео
Окружения, агенты, навыки, хранилища памяти и деплойменты Claude Managed Agents можно описать файлами в репозитории. Команда ant apply приводит ресурсы API в соответствие с этими файлами.
Читайте также
- Австралия обсуждает уголовную ответственность за вред от ИИ
- Австралия приняла 18 рекомендаций после взлома OpenAI
- Пиксель рекламы ChatGPT следит до согласия у 66% магазинов
- OpenAI говорит об «окне защитников» и предлагает правила
- Директор нацразведки США о жучке в OpenAI и шпионаже
- OpenAI вернулась к водяному знаку для текста ради AI Act
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

