Генеральный директор Anthropic Дарио Амодей заявил, что правительство должно обладать полномочиями для запрета выпуска моделей, если они несут риски. В своем эссе он предложил ввести обязательное тестирование ИИ независимыми организациями.
Проверки должны оценивать угрозы в категориях кибербезопасности и создания биологического оружия. Если модель признается опасной, правительство должно иметь право блокировать её развертывание.
Амодей подчеркнул необходимость внешнего контроля для предотвращения критических последствий. Предложение касается всех разработчиков ИИ, включая саму компанию Anthropic.