Калифорния берётся за аудиторов ИИ: подписаны два закона

Гэвин Ньюсом 9 сентября подписал два закона о тех, кто будет проверять ИИ-модели извне. Штат заведёт реестр внешних аудиторов и начнёт аттестовать организации, которые оценивают риски ИИ, сообщает Politico. Оба закона поддержали Anthropic и OpenAI. Подписывая их, губернатор призвал федеральное правительство «выступить с действенным общенациональным регулированием, которое отвечает срочности момента».

Первый закон написала Ребекка Бауэр-Кахан, член ассамблеи штата от демократов. Он вводит реестр и этические правила для внешних аудиторов. Это сторонние организации, которых разработчики ИИ могут нанять, чтобы проверить, соответствуют ли их модели законам штата. Автор второго закона - сенатор штата и бывший конгрессмен Джерри Макнерни. По этому закону Калифорния должна выработать критерии для так называемых Independent Verification Organizations и проверять их квалификацию и экспертизу в оценке рисков ИИ-систем.

Тема сторонних проверок уже есть в законах штата. SB 53, закон о прозрачности фронтирного ИИ сенатора Скотта Винера, Ньюсом подписал 29 сентября 2025 года. В разборе юридической фирмы Morrison Foerster говорится, что закон вступил в силу 1 января. Он требует от крупных разработчиков публиковать рамочный документ о безопасности и пересматривать его не реже раза в год. Среди прочего в этом документе надо описать, как компания привлекает третьи стороны для оценки катастрофических рисков и того, насколько работают меры против них. SB 53 действует уже восемь месяцев, а критерии для самих проверяющих штату только предстоит выработать.

Макнерни при подписании тоже упрекнул Вашингтон в бездействии. Он сослался на недавние сообщения о том, что модели OpenAI, Anthropic и других компаний во время тестов сами запускали взломы. «Только на этой неделе мы узнали, что самые мощные ИИ-системы в связке с ИИ-агентами несут реальную угрозу человечеству», - заявил Макнерни. По его словам, подпись губернатора ясно показывает, что Калифорния берёт на себя лидерство в оценке рисков ИИ, «раз Вашингтон не может или не хочет этим заняться».

В OpenAI законы в среду поддержал Крис Лехейн, директор компании по глобальным связям. По его словам, OpenAI намерена не сбавлять темп в законодательных собраниях штатов, пока Конгресс не примет общенациональное регулирование безопасности ИИ. Лехейн поддержал ещё два калифорнийских законопроекта. Один из них - SB 1119 о безопасности чат-ботов для детей, и как раз по нему Сэм Альтман в последний момент связался с Ньюсомом, чтобы высказать свои опасения.

Представитель Anthropic в среду сказал: «Мы всегда открыто говорили, что ИИ принесёт и огромную пользу, и беспрецедентные риски. Чтобы справиться с этими рисками, мы продолжаем создавать модели с одними из самых сильных мер защиты в индустрии». Он также сказал, что, по мнению компании, миру пошло бы на пользу, если бы индустрия приняла «законный, проверяемый способ сообща определять темп выпуска мощных моделей».