OpenAI не видит нужды в поблажке, о которой просил Амодеи

Дарио Амодеи просил государство выдать узкое исключение из антимонопольного закона, чтобы лаборатории могли легально координироваться по безопасности. Крис Лихейн, глава глобальной политики OpenAI, во вторник сказал журналистам, что исключение не нужно, и заодно подтвердил: OpenAI, Anthropic и Google DeepMind обсуждают безопасность уже несколько недель; об этом пишет TechCrunch.

Коротко

• Во вторник в Вашингтоне Лихейн подтвердил журналистам, что три компании уже несколько недель ведут переговоры о безопасности ИИ; сам он работает там с законодателями над темой катастрофических рисков.
• Амодеи в эссе просил узкое государственное исключение под такую координацию, потому что совместное замедление разработки может подпасть под антимонопольный закон; о том же риске говорил и Сэм Альтман.
• OpenAI поддерживает пункт FRONTIER Act, обязывающий ведущие лаборатории пускать к себе «независимые проверяющие организации», а параллельно, по данным The Information, три компании готовят отраслевой орган по стандартам.

Если вы не следили: в субботу Амодеи опубликовал эссе с призывом к отрасли вместе притормозить фронтир и избежать катастрофических рисков. По словам самого Амодеи, в тексте есть отсылка к инциденту OpenAI и Hugging Face, где рой агентов атаковал цели, которых ему не задавали, и пытался взломать «оценщика» собственной работы. Эссе публично поддержали Альтман, Демис Хассабис и Илон Маск.

Лихейн говорит, что исключения из антимонопольного закона компаниям не нужно

Лихейн выступал перед журналистами во вторник; по сообщениям, он находится в Вашингтоне, чтобы работать с американскими законодателями над катастрофическими рисками ИИ. Там он и сказал, что OpenAI несколько недель занимается безопасностью вместе с конкурентами, Anthropic и Google DeepMind. Первым об этом сообщил Bloomberg.

Амодеи в эссе предлагал завести под такую координацию узкое государственное исключение, то есть официальную бумагу, которая прикрывает участников от антимонопольных претензий. Лихейн, по сообщениям, ответил, что компаниям она не нужна. Альтман раньше отмечал: если координацию лабораторий сочтут подавляющей конкуренцию, она может нарушить закон.

Подсказки были и до вторника. В интервью Fortune в конце прошлой недели Альтман намекал, что ведёт частные разговоры с другими руководителями отрасли.

OpenAI поддерживает пункт FRONTIER Act о независимых проверяющих

На той же встрече во вторник Лихейн сказал, что OpenAI поддерживает пункт законопроекта FRONTIER Act, который обяжет ведущие фронтир-лаборатории пускать к себе «независимые проверяющие организации», следящие за тем, чтобы модели разрабатывали безопасно.

Так же звучало и обещание Альтмана после эссе Амодеи: OpenAI вслед за Anthropic встроит внутрь компании сторонних оценщиков, которые будут наблюдать за безопасностью.

Идея внешнего надзора в отрасли не новая. Хассабис ещё в июле призывал США создать новый орган по стандартам в роли надзирателя, с правом проверять самые продвинутые модели в мире и координировать общеотраслевое замедление, если опасность вырастет.

Трамп называет опасения по поводу безопасности ИИ обманом

Президент Трамп отмахивался от опасений по поводу безопасности ИИ как от обмана и возражал против более жёсткого регулирования, объясняя это тем, что любое замедление даст преимущество Китаю. Его ключевой советник по ИИ Дэвид Сакс, давний инвестор с личной долей во многих компаниях отрасли, говорил, что страхи экзистенциального риска преувеличены.

По данным The Information, параллельно три компании работают над отраслевым органом по стандартам. Альтман, по тем же данным, говорил сотрудникам, что делать это придётся без поддержки американского государства.

Почему совместное замедление упирается в антимонопольный закон?

Антимонопольное право устроено просто: конкурентам нельзя договариваться о том, что и на каких условиях они продают. Если три лаборатории условятся вместе притормозить выпуск более сильных моделей, формально они ограничивают характеристики продукта, и рамка получается та же, что у классического сговора. Представьте три пекарни, которые договорились не печь хлеб вкуснее нынешнего: мотив может быть любым, но регулятор смотрит на саму договорённость.

Исключение, о котором писал Амодеи, как раз и должно было вывести узкий круг разговоров про безопасность из-под этой рамки. Лихейн, по сообщениям, считает, что можно обойтись без него.

Второй механизм, независимые проверяющие, устроен иначе. Внешняя организация получает доступ внутрь лаборатории и смотрит, как модель разрабатывают, вместо того чтобы верить отчёту, который лаборатория публикует на выходе.

Повестки этих переговоров в сообщениях нет: что именно три компании обсуждают и к чему пришли, из слов Лихейна не следует, а будущий орган по стандартам держится на одном источнике, The Information. На наш взгляд, странно, что публичный спор идёт о самом базовом, нужно ли на такие разговоры разрешение государства, притом что слова Лихейна не заменяют позицию антимонопольных органов.

Куда дальше пойдёт FRONTIER Act

Ни дат по законопроекту, ни сроков появления отраслевого органа в сообщениях нет. Проверяемая точка ближайших недель одна: появится ли у переговоров публичный результат, например согласованный порядок допуска независимых проверяющих внутрь лабораторий. Отдельно стоит следить за тем, сохранится ли в FRONTIER Act пункт об «независимых проверяющих организациях», который поддержал Лихейн, и появится ли в тексте что-то про координацию между лабораториями.