OpenAI спрашивает Конгресс, законно ли тормозить ИИ

OpenAI в последние недели добивалась от членов Конгресса ясного ответа на один вопрос: будет ли законно, если ведущие лаборатории договорятся вместе притормозить разработку передовых моделей. Об этом 10 сентября сообщил WIRED со ссылкой на людей, близких к компании. Кому именно писала OpenAI и что ей ответили, не раскрывается.

Препятствием руководители лабораторий, как их описывает WIRED, считают антимонопольное право. Речь о законе Шермана. Одна лаборатория вправе в любой момент остановить работу сама. А формальный договор конкурентов сдерживать выпуск продуктов можно трактовать как незаконное ограничение выпуска: так закон квалифицирует сговор, при котором компании вместе сокращают предложение на рынке.

Этот риск разбирали и раньше. В мартовской статье Николас Фелстед, assistant director Австралийской комиссии по конкуренции и защите потребителей и бывший научный сотрудник Center for Law & AI Risk по политике в области ИИ, писал, что согласованная пауза может оказаться ограничением выпуска и нарушить закон Шермана. Исход, по его словам, «целиком зависит от точных условий соглашения». И даже «если большинство совместных проектов по безопасности в итоге выдержат антимонопольную проверку, правовая неопределённость сама по себе может сильно отпугивать».

Сразу после публикации WIRED тема перешла в публичные заявления. 11 сентября Bloomberg сообщил, что Сэм Альтман сказал сотрудникам: OpenAI готова сдерживать темп разработки передовых моделей и надеется, что конкуренты последуют её примеру, хотя кто-то из них, вероятно, не согласится. Днём позже Дарио Амодеи призвал отрасль «замедлить темп, с которым мы улучшаем возможности моделей ИИ», и, как передаёт TechRepublic, Альтман ответил в X: «Согласен с Дарио, темп на передовой нужно сдерживать». Илон Маск ограничился фразой «Дарио прав».

Главный научный сотрудник OpenAI Якуб Пахоцки в своём блоге назвал «координацию ради замедления дальнейшей разработки» частью лучшего пути. Он ожидает, что «добровольные замедления станут обычным делом, пока не будут установлены общие планки безопасности».

Односторонний вариант OpenAI уже опробовала: компания на две недели приостанавливала frontier RL-обучение моделей, которые готовились к развёртыванию. Закон этого не запрещает. Вопрос, с которым OpenAI пришла в Конгресс, касается только договорённости нескольких игроков.

Законодательный путь тоже есть. Сенаторы Адам Шифф и Джим Бэнкс внесли законопроект, который разрешает лабораториям сотрудничать в вопросах безопасности при условии, что они заранее уведомят Министерство юстиции.

Не все считают антимонопольный барьер реальным. Сооснователь OpenAI Джон Шульман, сейчас главный научный сотрудник Thinking Machines, написал в X: «На антимонопольное право будут ссылаться, но это ложный довод: оно запрещает определённые соглашения, но не совместную разработку предложения».

Член Палаты представителей от Нью-Джерси, демократ Джош Готтхаймер, отмахнулся от призывов к саморегулированию: «Если Дарио и Илон действительно обеспокоены, они могут нажать на тормоза в собственных лабораториях, прямо сегодня», - сказал он POLITICO.