Перейти к содержанию

Anthropic

Anthropic показала Конгрессу свой проект закона об ИИ

2 мин чтения

Текст написан ИИ-моделью по источникам, на которые ведут ссылки, и сверен с ними второй моделью. Как мы работаем

Anthropic предлагает Конгрессу США закон о безопасности передового ИИ. По этому закону власти смогут остановить выпуск или использование модели, только если она грозит ущербом больше 1 миллиарда долларов либо гибелью или тяжёлыми травмами более 50 человек. Конфиденциальный черновик оказался у Politico. 16 октября издание сообщило со ссылкой на трёх осведомлённых собеседников, что представители компании без огласки показывали этот проект законодателям на Капитолийском холме. Источники говорили на условиях анонимности, потому что обсуждения закрытые.

В Anthropic проект не отрицают. «Этот законопроект отражает предложения из Advanced AI Framework, которые мы с июня продвигаем среди законодателей на федеральном уровне и в штатах», сказал представитель компании.

Порог в проекте сформулирован жёстко. Риск должен быть предсказуемым и неминуемым, и исходить он может всего из трёх сценариев: создание или выпуск биологического оружия, выход модели из-под контроля разработчика или кибератака. Формулировки повторяют калифорнийские законы об ИИ, в том числе SB 53, который подписали в прошлом году.

Advanced AI Framework Anthropic опубликовала 10 июня вместе с эссе Дарио Амодеи «Policy on the AI Exponential». Рамка обязывает разработчиков передовых моделей проверять самые мощные из них на катастрофические риски, привлекать независимых внешних оценщиков, публиковать краткие итоги проверок и system cards, а также отчитываться перед государством. В частности, государство получает право блокировать или сдерживать развёртывание моделей, которые несут значительный риск катастрофического вреда. В черновике это «значительный риск» превратился в конкретные суммы и число пострадавших. Внешних проверяющих Anthropic уже пустила к себе: шесть человек из METR работают внутри компании, и запретить им публиковать выводы она не может.

Круг тех, кого рамка касается, узкий. Речь только о моделях, на обучение которых ушло больше 10²⁵ операций с плавающей точкой, и только о компаниях, которые зарабатывают на ИИ больше 500 миллионов долларов или тратят на исследования и разработки в ИИ больше 1 миллиарда.

Июньский список катастрофических рисков был длиннее. В нём четыре категории: разработка биологического оружия, массовый поиск уязвимостей в софте, потеря контроля над автономными системами и ИИ, который автоматизирует собственные исследования. В проекте, как его описывает Politico, оснований для запрета три, а вместо поиска уязвимостей там стоит кибератака.

Черновик появился в момент, когда Конгресс решает, как отвечать на быстрый рост отрасли. В Anthropic свою позицию формулируют прямо: «Это разумные меры, и мы считаем, что Конгрессу следует их принять».

ClaudeAnthropic

Доля джунов в найме Anthropic упала с 27% до 9%

Доля младших среди новых технических наймов в Anthropic упала с 27% до 9%, и как раз тогда агенты обогнали людей: к августу они отработали в 6 раз больше часов, чем сотрудники. Сколько агентов у вас обычно работает одновременно?

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите, чтобы оставить комментарий. Он появится после модерации.