Аудиторов ИИ-моделей в Калифорнии внесут в реестр

Губернатор Калифорнии Гэвин Ньюсом подписал два закона о проверке безопасности ИИ-моделей: первый создаёт реестр внешних аудиторов, второй вводит аттестацию организаций, которые оценивают риски ИИ-систем. Как сообщает Politico, оба документа поддержали Anthropic и OpenAI, а сам губернатор одновременно потребовал от федеральных властей принять национальные правила.

Коротко

• Внешние аудиторы, которых нанимают сами разработчики, получат реестр и этические правила работы: по закону члена Ассамблеи Ребекки Бауэр-Кахан такие организации проверяют, соответствуют ли модели действующим в Калифорнии законам об ИИ.
• Второй закон, автор которого сенатор штата и бывший конгрессмен Джерри Макнерни, поручает властям Калифорнии задать критерии для Independent Verification Organizations и проверять их квалификацию в оценке рисков ИИ-систем.
• Крис Лихейн, директор OpenAI по глобальным связям, заявил в среду, что в OpenAI намерены работать с легислатурами штатов, пока Конгресс не примет федеральные правила безопасности ИИ, и поддержал ещё два законопроекта штата.

Калифорния достраивает механизм исполнения собственных законов об ИИ: без аккредитованных проверяющих и понятных правил для них требования к разработчикам остаются декларацией, которую некому подтверждать. Поддержка со стороны OpenAI и Anthropic выглядит как ставка на предсказуемый и проверяемый режим вместо набора разрозненных требований отдельных штатов. При этом и Ньюсом, и Макнерни превращают подписание в аргумент против Вашингтона, что, вероятно, задаёт тон дискуссии о федеральном законе, которого пока нет.

Реестр аудиторов и аттестация Independent Verification Organizations прописаны в разных законах

Первый из двух подписанных документов написала член Ассамблеи Калифорнии от Демократической партии Ребекка Бауэр-Кахан: закон создаёт реестр внешних аудиторов ИИ-моделей и вводит для них этические правила. Под аудиторами понимаются сторонние организации, которых разработчики нанимают сами, чтобы подтвердить соответствие своих моделей уже действующим в штате законам об искусственном интеллекте. Проверку в такой схеме выполняет не сам разработчик, а нанятая им структура.

Автор второго закона, сенатор штата Джерри Макнерни, до избрания в легислатуру Калифорнии работал в Конгрессе США. Документ поручает властям штата определить критерии для так называемых Independent Verification Organizations и проверять их квалификацию. Отдельно штат должен оценивать, насколько такие организации разбираются в рисках, которые создают системы искусственного интеллекта.

Макнерни сослался на тесты, в которых модели OpenAI и Anthropic сами запускали атаки

Подписание Ньюсом использовал и для обращения к федеральным властям: губернатор призвал правительство США выступить с сильным национальным регулированием, отвечающим срочности момента. Макнерни занял ту же позицию и при подписании своего закона обвинил политиков в Вашингтоне в бездействии по вопросам искусственного интеллекта.

Сенатор сослался на ставшие известными на этой неделе случаи, когда ИИ-модели, созданные в том числе OpenAI и Anthropic, самостоятельно запускали атаки в ходе тестирования. В письменном заявлении он указал, что самые мощные ИИ-системы в связке с ИИ-агентами несут реальную угрозу человечеству. По словам Макнерни, подписание закона показывает, что лидерство в оценке рисков безопасности ИИ берёт на себя Калифорния, поскольку Вашингтон не может или не хочет этим заниматься.

OpenAI поддержала ещё два законопроекта, включая SB 1119 о чат-ботах для детей

Крис Лихейн, директор OpenAI по глобальным связям, публично поддержал оба закона в обращении, опубликованном в среду. Он заявил, что в OpenAI намерены сохранять такой же темп работы с законодателями штатов до тех пор, пока Конгресс не примет национальное регулирование безопасности ИИ.

В том же обращении Лихейн высказался в поддержку ещё двух законопроектов штата. Один из них, SB 1119, посвящён безопасности чат-ботов для детей: именно по этому документу глава OpenAI Сэм Альтман в последний момент связался с Ньюсомом и высказал опасения.

В Anthropic в среду заявили, что всегда открыто говорили о двух сторонах технологии: ИИ принесёт и огромную пользу, и беспрецедентные риски. Там добавили, что продолжают выпускать модели с одними из самых сильных в отрасли защитных механизмов, и что миру пригодился бы законный и проверяемый способ совместно определять темп выпуска мощных моделей.

Сроки реестра и судьба SB 1119

Решение по SB 1119, законопроекту о безопасности чат-ботов для детей, Politico не приводит, как и название второго документа, который поддержала OpenAI. Не указаны и сроки, в которые Калифорния должна утвердить критерии для Independent Verification Organizations, проверить их квалификацию и запустить реестр аудиторов. Кто из аудиторских организаций получит аккредитацию первым, пока неизвестно.