OpenAI зовёт США писать правила для самоулучшающихся ИИ

Оценивать будущие самоулучшающиеся системы по общим меркам и завести защищённые каналы для обмена сведениями о новых угрозах. Такое предложение OpenAI опубликовала в понедельник: правительство США, по замыслу компании, должно вместе с другими странами выработать глобальные стандарты безопасности для передовых ИИ-систем.

Ранее глава глобальной политики OpenAI Крис Лихейн говорил, что компания уже несколько недель работает над безопасностью вместе с Anthropic и Google DeepMind, а Дарио Амодеи предлагал узкое антимонопольное исключение для такой координации. В сообщении о новом предложении не названы ни конкретные критерии оценки, ни сроки.