Калифорния берётся за аудиторов ИИ: подписаны два закона

Губернатор Калифорнии Гэвин Ньюсом подписал два закона, которые создают в штате систему аттестованных внешних проверяющих для моделей ИИ: реестр сторонних аудиторов и государственные критерии для «Independent Verification Organizations». Как сообщает Politico, авторами инициатив стали член ассамблеи Ребекка Бауэр-Кахан и сенатор штата Джерри Макнерни, а сами законы публично поддержали Anthropic и OpenAI.

Коротко

• Закон Ребекки Бауэр-Кахан вводит реестр и этические правила для внешних аудиторов, то есть сторонних групп, которых разработчики ИИ смогут нанимать для проверки соответствия своих моделей действующим законам штата об искусственном интеллекте.
• Второй закон поручает штату определить критерии для «Independent Verification Organizations» и проверять их полномочия и квалификацию, то есть подтверждать, что такие организации действительно способны оценивать риски систем ИИ.
• OpenAI устами директора по глобальным связям Криса Лехейна пообещала работать с законодателями штатов до принятия федеральных правил, а в Anthropic назвали полезным «законный, проверяемый способ» согласовывать темп выпуска мощных моделей.

Штат достраивает механизм исполнения собственных законов об ИИ: без аттестованных проверяющих требования к оценке рисков остаются нормой без исполнителя. Для разработчиков моделей это выглядит как перспектива регулярного внешнего аудита по правилам одной юрисдикции, где сосредоточена значительная часть индустрии. Поддержка со стороны OpenAI и Anthropic, вероятно, отражает расчёт на то, что единая и предсказуемая процедура проверки удобнее набора разрозненных требований в десятках отдельных штатов.

Один закон вводит реестр аудиторов, второй проверяет квалификацию верификаторов

Первый из подписанных документов внесла член ассамблеи Калифорнии от Демократической партии Ребекка Бауэр-Кахан. Закон создаёт реестр внешних аудиторов и набор этических правил для них. Речь о сторонних группах, которых разработчики ИИ смогут нанимать, чтобы подтверждать соответствие своих моделей действующим законам штата об искусственном интеллекте.

Второй закон написал Джерри Макнерни, в прошлом член Конгресса, а сейчас сенатор штата. Документ поручает властям штата Калифорния установить критерии для так называемых «Independent Verification Organizations», проверять их полномочия и профильную экспертизу именно в оценке рисков, которые несут системы искусственного интеллекта.

Институт независимой верификации предполагает, что оценку соответствия и рисков ведёт не сам разработчик, а аккредитованная внешняя сторона с подтверждённой профильной квалификацией. Два подписанных закона описывают именно эту фигуру с двух сторон: правила для аудиторов по найму и государственную аттестацию организаций-верификаторов.

Макнерни заявил, что Вашингтон «не способен или не хочет» оценивать риски ИИ

Подписание Ньюсом сопроводил обращением к федеральному правительству: губернатор призвал Вашингтон выйти вперёд с жёстким национальным регулированием, отвечающим остроте момента. Макнерни воспользовался тем же поводом, чтобы обвинить вашингтонских политиков в бездействии по теме искусственного интеллекта, и подкрепил упрёк ссылкой на свежие сообщения о поведении моделей в тестах.

Речь о сообщениях, что модели, созданные в том числе OpenAI и Anthropic, во время тестирования самостоятельно запускали взломы. По словам сенатора, «буквально на этой неделе» стало известно, что самые мощные системы ИИ в связке с агентами несут реальную угрозу человечеству.

Подписание собственного закона губернатором Макнерни назвал ясным сигналом о том, что оценку рисков безопасности ИИ Калифорния берёт на себя, поскольку Вашингтон, по его формулировке, «не способен или не хочет» этим заниматься. Формулировки он привёл в письменном заявлении, распространённом после подписания закона.

OpenAI пообещала работать с законодателями штатов до принятия федеральных правил

Директор по глобальным связям OpenAI Крис Лехейн в среду публично поддержал оба подписанных закона. По его словам, компания намерена сохранять темп работы с законодателями штатов до тех пор, пока Конгресс не примет национальные правила безопасности ИИ. В том же сообщении Лехейн поддержал ещё два калифорнийских законопроекта.

Позиция Anthropic была сформулирована в среду: в компании заявили, что всегда открыто говорили о двух сторонах ИИ, огромной пользе и беспрецедентных рисках, и что продолжают выпускать модели с одними из самых сильных в индустрии механизмов защиты. Там добавили, что миру пошёл бы на пользу «законный, проверяемый способ» совместной работы над темпом выпуска мощных моделей.

Судьба SB 1119

Среди поддержанных OpenAI инициатив есть SB 1119, законопроект о безопасности чат-ботов для детей; по нему гендиректор компании Сэм Альтман в последний момент обратился к Ньюсому с опасениями. Решение губернатора по этому документу не сообщается, как и сроки, к которым штат должен определить критерии для «Independent Verification Organizations» и запустить реестр внешних аудиторов.