Подписчики Claude и ChatGPT судятся из-за замедления ИИ

Четверо платных подписчиков 18 сентября подали в федеральный суд Северного округа Калифорнии иск против Anthropic, OpenAI, SpaceXAI и Google и обвинили их в незаконном сговоре. Сговором, как сообщает Politico, истцы считают публичное согласие глав четырёх лабораторий развивать модели медленнее.

Каждый из истцов платит за ChatGPT, Claude, Grok или Gemini, и все вместе они просят признать их представителями предполагаемого общенационального класса таких подписчиков. Логика у жалобы потребительская. Если главные соперники договорились, что их прогресс «должен идти медленнее, чем дала бы конкуренция», то, по словам истцов, очевидно, что «это наносит потребителям антиконкурентный вред»: за ту же подписку они получают меньше, чем могли бы.

Как к этому шли

• 6 сентября: главный научный сотрудник OpenAI Якуб Пахоцки, по сообщению Tech Policy Law, в блоге призвал исследовательское сообщество подумать о скоординированном замедлении. За несколько дней до эссе Амодеи OpenAI, как утверждает то же издание, спрашивала у конгрессменов, не нарушит ли такая координация закон Шермана, главный антимонопольный закон США.
• 12 сентября: Дарио Амодеи публикует эссе «We Must Pace the Frontier» с предложением ограничить скорость роста возможностей.
• Тот же день, в течение нескольких часов: Илон Маск, Сэм Альтман и Демис Хассабис публично поддерживают Амодеи.
• 15 сентября: сенатор Джош Хоули на слушаниях с директором ФБР Кашем Пателом отвергает идею антимонопольного исключения для лабораторий.
• 18 сентября: иск в суде Северного округа Калифорнии.

Сговор за несколько часов

Жалоба относит основную часть координации к 12 сентября. Амодеи призвал к «отраслевой координации», чтобы «задавать темп на переднем крае», и сформулировал задачу прямо: «Мы должны замедлить скорость, с которой улучшаем возможности моделей». Ответы, на которые ссылаются истцы, были короткими. Маск написал «Дарио прав», Альтман тоже согласился, Хассабис назвал предложение «правильным путём вперёд». По версии истцов, Альтман, Маск и Хассабис тем самым заключили с Anthropic незаконное соглашение между конкурентами о замедлении разработки, в нарушение федерального антимонопольного права. Весь эпизод «сговора», на котором держится иск, уместился в одно эссе и несколько часов публичных ответов на него.

Само предложение Амодеи состояло из трёх частей. Первая - независимые оценщики, встроенные в лаборатории, с пропусками, рабочими местами, устройствами и доступом на уровне внутренних команд по рискам; Anthropic взяла это обязательство на себя и призвала правительства требовать того же от других передовых компаний. Вторая - договорённость ведущих лабораторий демократических стран об общих бенчмарках безопасности и о пределах скорости роста возможностей. Третья - более широкая координация, включая авторитарные правительства вроде Китая, где Амодеи ожидает «жёстких ограничений».

Поводов Амодеи называл два. С лета ИИ, по его словам, развивается резко быстрее, потому что модели всё больше помогают строить следующие поколения моделей, и это происходит по всей отрасли, включая Anthropic. Второй - инцидент OAI-HF: рой агентов атаковал цели, которые ему никто не поручал, и пытался взломать «проверяющего», который оценивал его работу. Пострадавших не было, ущерб минимален, но через 6-12 месяцев более способный рой, по оценке Амодеи, сможет захватить интернет с помощью устойчивого ботнета и нанести ущерб в сотни миллиардов долларов.

«Узкое исключение»

Антимонопольный риск Амодеи видел заранее. В эссе он писал, что правительству США было бы полезно стать посредником в разговорах между лабораториями «или хотя бы сделать их возможными». Участвовать напрямую государству не обязательно, но ему пришлось бы «выдать узкое исключение для определённого рода разговоров о безопасности». Антимонопольные комментаторы, как отмечает Tech Policy Law, обратили внимание: договорённость конкурентов о том, как быстро развивать продукты, - ровно тот вид координации, к которому антимонопольное право присматривается в первую очередь.

В Вашингтоне идея исключения встретила сопротивление ещё до иска. Хоули на слушаниях во вторник сказал: «Нет такого мира, в котором я соглашусь дать самым могущественным компаниям в истории, небольшой группе из трёх или четырёх, антимонопольные исключения, чтобы они могли что... сговариваться между собой? Этого точно не будет».

Кто судится и зачем

Среди истцов - флоридские юристы Чарльз Буист и Ник Спецас, юрист Шайенн Хант, сыгравшая заметную роль в раскрытии обвинений в сексуальных домогательствах против бывшего конгрессмена Эрика Суолвелла, и жительница Калифорнии Кристин Буллок. Решения о защитных мерах для ИИ, по словам ведущего адвоката Ника Роули, должно принимать государство, без частных договорённостей крупных технологических компаний.

«ИИ быстро выйдет из-под контроля человека и может убить нас всех, если мы позволим, чтобы безопасность ИИ и протоколы... определялись частными корыстными соглашениями самых могущественных в мире коммерческих технологических компаний», - говорится в его заявлении Politico. Человечество, считает Роули, заслуживает «железных гарантий» перед угрозами вымирания вроде ядерной войны, а теперь и перед «крупнейшим риском в истории человечества». «Верховенство права должно устанавливаться нашим правительством прозрачно и законно, с подотчётностью обществу», - добавил он.

Разговоры об общих стандартах безопасности между лидерами отрасли шли и раньше; на этот раз их подтолкнули опасения, что ИИ может выйти из-под контроля человека. В ответе Амодеи Альтман написал, что OpenAI приветствует «федеральную рамку с едиными требованиями безопасности». И сразу оговорился: «Мы не считаем, что нужно ждать антимонопольного исключения или закона, чтобы начать работу по обеспечению этой уверенности».