Anthropic показала Конгрессу свой проект закона об ИИ

Anthropic предлагает Конгрессу США закон о безопасности передового ИИ. По этому закону власти смогут остановить выпуск или использование модели, только если она грозит ущербом больше 1 миллиарда долларов либо гибелью или тяжёлыми травмами более 50 человек. Конфиденциальный черновик оказался у Politico. 16 октября издание сообщило со ссылкой на трёх осведомлённых собеседников, что представители компании без огласки показывали этот проект законодателям на Капитолийском холме. Источники говорили на условиях анонимности, потому что обсуждения закрытые.
В Anthropic проект не отрицают. «Этот законопроект отражает предложения из Advanced AI Framework, которые мы с июня продвигаем среди законодателей на федеральном уровне и в штатах», сказал представитель компании.
Порог в проекте сформулирован жёстко. Риск должен быть предсказуемым и неминуемым, и исходить он может всего из трёх сценариев: создание или выпуск биологического оружия, выход модели из-под контроля разработчика или кибератака. Формулировки повторяют калифорнийские законы об ИИ, в том числе SB 53, который подписали в прошлом году.
Advanced AI Framework Anthropic опубликовала 10 июня вместе с эссе Дарио Амодеи «Policy on the AI Exponential». Рамка обязывает разработчиков передовых моделей проверять самые мощные из них на катастрофические риски, привлекать независимых внешних оценщиков, публиковать краткие итоги проверок и system cards, а также отчитываться перед государством. В частности, государство получает право блокировать или сдерживать развёртывание моделей, которые несут значительный риск катастрофического вреда. В черновике это «значительный риск» превратился в конкретные суммы и число пострадавших. Внешних проверяющих Anthropic уже пустила к себе: шесть человек из METR работают внутри компании, и запретить им публиковать выводы она не может.
Круг тех, кого рамка касается, узкий. Речь только о моделях, на обучение которых ушло больше 10²⁵ операций с плавающей точкой, и только о компаниях, которые зарабатывают на ИИ больше 500 миллионов долларов или тратят на исследования и разработки в ИИ больше 1 миллиарда.
Июньский список катастрофических рисков был длиннее. В нём четыре категории: разработка биологического оружия, массовый поиск уязвимостей в софте, потеря контроля над автономными системами и ИИ, который автоматизирует собственные исследования. В проекте, как его описывает Politico, оснований для запрета три, а вместо поиска уязвимостей там стоит кибератака.
Черновик появился в момент, когда Конгресс решает, как отвечать на быстрый рост отрасли. В Anthropic свою позицию формулируют прямо: «Это разумные меры, и мы считаем, что Конгрессу следует их принять».
Дальше
Доля джунов в найме Anthropic упала с 27% до 9%
Доля младших среди новых технических наймов в Anthropic упала с 27% до 9%, и как раз тогда агенты обогнали людей: к августу они отработали в 6 раз больше часов, чем сотрудники. Сколько агентов у вас обычно работает одновременно?
Читайте также
- Отставка Хуанга, Рубио и лоббисты Anthropic
- Проверяющие из METR сидят в Anthropic, а вето у неё нет
- У отраслевого органа Anthropic, OpenAI и Google есть имя
- WSJ: Anthropic назовут национальным чемпионом ИИ
- Фонды из Китая и Гонконга не пускают в IPO Anthropic
- Opus 4.6 и три модели 4.5 получат водяной знак 16 ноября
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

