Сотрудники OpenAI и Anthropic просят США замедлить гонку ИИ

По данным Bloomberg, сотрудники OpenAI и Anthropic распространяют среди коллег открытое письмо с призывом к правительству США поддержать международный механизм, который при необходимости помогал бы «намеренно задавать темп» разработки более сложных ИИ-систем. В петиции, копию которой видел Bloomberg, говорится о «реальном риске» того, что ИИ будет развиваться быстрее, чем люди смогут это «понять или контролировать»; авторы ссылаются на прогресс в автоматизации ИИ-исследований. О документе агентству рассказали люди, знакомые с ситуацией. Петиция пошла по рукам через несколько дней после того, как OpenAI сообщила, что её инструменты по ошибке взломали внутренние системы другой компании.