Anthropic принесла в Конгресс свой закон о безопасности ИИ

По данным Politico, представители Anthropic тихо показывают конгрессменам собственный законопроект о безопасности передовых моделей ИИ. Об этом изданию рассказали три осведомлённых источника, а конфиденциальный черновик оказался у Politico на руках.

В Anthropic текст признали: он повторяет их Advanced AI Framework, который компания продвигает среди законодателей с июня.

Запретить выпуск или использование модели государство сможет лишь при предсказуемом и неминуемом риске ущерба больше 1 миллиарда долларов или гибели и тяжёлых травм более 50 человек. Источником риска должны быть биооружие, кибератака или модель, ушедшая из-под контроля разработчика.

Формулировки взяты из калифорнийских законов об ИИ, включая SB 53, подписанный в прошлом году. Кто из законодателей готов внести проект, в материале не сказано.