У отраслевого органа Anthropic, OpenAI и Google есть имя

Три прямых конкурента, Google, OpenAI и Anthropic, вместе строят структуру, которая будет задавать им общие правила. По данным The Information, будущий орган условно называется Standards Authority for Frontier AI, или SAFA.

Пересказ этой публикации вышел в Proactiveinvestors. Там подчёркивается, что орган задуман как независимый, а сама идея возникла на фоне спора о том, как регулировать ИИ.

Коротко

• Параллельно OpenAI и Anthropic, по имеющимся данным, обсуждали взаимную проверку коммерческих моделей друг друга на уязвимости и неожиданное поведение с ограничением на хранение полученных данных.
• В среду Сэм Альтман и Дарио Амодеи выступили в Совбезе ООН: Альтман говорил о роли демократических институтов и правительств, Амодеи призвал к международным соглашениям и глобальным стандартам тестирования.
• Когда SAFA заработает, кто её возглавит и какими полномочиями она будет обладать, The Information не сообщает, а сделка о взаимных проверках пока описана только как обсуждаемая.

Если вы не следили: по данным Plainenglish, идея отраслевого органа принадлежит главе Google DeepMind Демису Хассабису. Там же пишут, что в сентябре 2026 года появилось сразу несколько сообщений о том, как ИИ-агенты выбирались из контролируемых сред. Были и уходы исследователей, ссылавшихся на экзистенциальный риск, и публичные призывы к замедлению от Амодеи, Альтмана и Хассабиса.

SAFA должна закрывать пробелы в государственном надзоре за ИИ

По данным The Information, группа по безопасности уже обретает форму, и три компании условно называют её Standards Authority for Frontier AI. Задумано, что SAFA будет работать независимо и возьмёт на себя то, до чего не дотягивается государственный надзор. Передовым, или frontier, ИИ обычно называют самые мощные модели на переднем крае возможностей.

Фон у инициативы политический. Президент США Дональд Трамп выступает против дополнительных ограничений для ИИ и говорит, что США и Китаю стоит оставить развитие технологии на нынешнем курсе. OpenAI отдельно призывает США возглавить международную работу над техническими стандартами для продвинутого ИИ, включая системы, способные к рекурсивному самоулучшению, то есть модели, которые совершенствуют сами себя.

Инициатива отражает растущий раскол вокруг регулирования ИИ. Одни хотят более жёстких защитных мер, другие считают, что существующих законов и рыночных механизмов достаточно, чтобы справиться с возможными рисками.

OpenAI и Anthropic обсуждали взаимные проверки коммерческих моделей

Компании всё чаще выходят за рамки собственных программ безопасности. По сообщениям, OpenAI и Anthropic обсуждали соглашение, по которому каждая сможет тестировать коммерчески доступные модели другой на уязвимости и неожиданное поведение. Хранение данных, полученных в ходе таких проверок, при этом ограничат.

Как пишет Explainx, отчёт The Information об этой сделке широко разошёлся в X 21 сентября 2026 года, его пересказывали аккаунты Walter Bloomberg, Polymarket Money и Evan (StockMKTNewz). По данным того же издания, переговоры шли ещё до серии инцидентов с безопасностью ИИ, которые за последние месяцы усилили тревогу внутри OpenAI.

Explainx также отмечает, что новость вышла на той же неделе, когда Anthropic подтвердила партнёрство с Accenture на 1 миллиард долларов по встроенной оценке моделей. По подсчёту издания, у Anthropic набралось две крупные истории о внешней проверке за несколько дней.

В Совбезе ООН Амодеи призвал к глобальным стандартам тестирования моделей

Разговор о стандартах вышел за пределы отрасли в среду, когда Сэм Альтман и Дарио Амодеи выступили в Совете Безопасности ООН по теме безопасности ИИ. Альтман сказал, что крупные решения об ИИ должны формироваться через демократические институты и правительства. Амодеи призвал к международным соглашениям и глобальным стандартам тестирования новых моделей.

Как пишет Singjupost, Альтман также заявил, что OpenAI уже в одностороннем порядке замедлялась и будет делать так в будущем. По его словам, отрасли не стоит принимать слишком большой технологический риск только потому, что выгоды велики, а желание обойти конкурентов в гонке не повод для поспешных решений.

Кто будет следить за лабораториями, если не государство

Сама отрасль. По данным Plainenglish, OpenAI на этой неделе подтвердила, что работает с Anthropic и Google над органом по образцу FINRA, американского регулятора брокеров и инвестиционных компаний. Идея, как пишет издание, в том, что отраслевая структура сама задаёт стандарты, ведёт надзор и следит за их соблюдением, не дожидаясь законов. Участники рынка её финансируют и управляют ею, а она дополняет государственное регулирование.

Проще всего представить судейскую коллегию в профессиональной лиге: судей оплачивают клубы, но свистят они по общим правилам для всех. Такая схема держится, пока у судьи есть право удалить игрока с поля.

Plainenglish перечисляет, где аналогия трещит. У финансового комплаенса есть общепринятая рамка измерения, у безопасности ИИ её нет. Открытые модели других разработчиков остаются вне любого такого органа, у компаний есть стимул выйти из договорённостей, если стандарты тормозят разработку, а FINRA может отстранить брокера от работы, тогда как аналога для ИИ-лаборатории нет.

В качестве прецедентов издание приводит рейтинговую систему Motion Picture Association, которая не мешает выходу вредного контента, ICANN, которая управляет доменными именами, но не содержимым интернета, и финансовое саморегулирование до 2008 года, не предотвратившее системный риск.

Главные пробелы видны в самих источниках. Оригинальный текст The Information о сделке по тестам закрыт пейволлом, и, как отмечает Explainx, из открытых фрагментов не понять ни точный объём договорённости, ни то, что она юридически обязывает делать, ни подписана ли она вообще. На наш взгляд, самое слабое место SAFA в принуждении: пока неизвестно, чем орган сможет наказать нарушившую стандарты лабораторию, правила держатся на доброй воле тех, кто их пишет.

Кто возглавит SAFA и когда

Когда SAFA заработает и кто её возглавит, The Information не пишет. Нет данных и о том, присоединятся ли к органу другие разработчики, будут ли его стандарты касаться открытых моделей и превратится ли обсуждаемая сделка OpenAI и Anthropic о взаимных тестах в подписанный документ. Сроков, к которым компании обещают раскрыть эти детали, тоже пока нет.