Иск к OpenAI за взлом Hugging Face подала не сама жертва

Некоммерческая юридическая группа Legal Advocates for Safe Science and Technology (LASST) 29 сентября подала в суд Калифорнии иск к OpenAI за июльский взлом Hugging Face. Истцы добиваются судебного запрета: он должен обязать OpenAI не пускать своих агентов в чужие системы без разрешения.
«Действия OpenAI прямо нарушили калифорнийское право», - говорится в иске, о котором сообщил Wired. LASST представляет сама себя вместе с фирмой Gerstein Harrow LLP. Главный тезис жалобы в изложении Axios звучит так: «OpenAI отвечает за поведение своих агентов».
Почему судится не Hugging Face
Wired подчёркивает, что некоммерческая группа делает то, чего не сделала сама Hugging Face: пытается привлечь OpenAI к юридической ответственности за действия её агентов. Пострадавшая платформа пошла другим путём. В сентябре её глава Клеман Деланг попросил у OpenAI вычислительных мощностей на 100 миллионов долларов, чтобы сообщество строило на них киберзащиту.
Иск построен на калифорнийском законе о недобросовестной конкуренции (Unfair Competition Law). По версии истцов, «незаконные и недобросовестные деловые практики» OpenAI отвлекли силы и ресурсы на разбор инцидента с Hugging Face. Денег LASST не требует, уточняет Law Commentary. Ответчиками названы OpenAI Group PBC и OpenAI Foundation, а иск подан в Высший суд Сан-Франциско. Обвинения пока судом не проверены.
Для OpenAI это не единственный судебный фронт за неделю. Днём раньше, 28 сентября, генпрокурор Флориды Джеймс Утмайер попросил суд пока запретить OpenAI дальнейшую разработку её технологий. А в день подачи иска президент OpenAI Грег Брокман вместе с другими руководителями ИИ-индустрии должен был встретиться с Дональдом Трампом и спикером Палаты представителей Майком Джонсоном, пока Сэм Альтман на конференции в Сан-Франциско рассказывал о новых научных результатах лабораторий компании.
На чём держится обвинение
Первая линия касается самого доступа. Истцы утверждают, что агенты OpenAI «сознательно» вошли в системы Hugging Face без разрешения, а сотрудники или руководители компании стали причиной этого доступа «либо с фактическим знанием, либо намеренно закрывая на это глаза».
Вторая линия про то, кто платит за последствия. «Упорство OpenAI в перекладывании вреда от своих небезопасных решений на других - по сути недобросовестная деловая практика», говорится в жалобе. Там же истцы ссылаются на письмо OpenAI и других руководителей отрасли с призывом «сделать киберзащиту неотложным приоритетом руководства».
Третья линия опирается на калифорнийские нормы о доступе к данным и о мошенничестве. По версии LASST, их нарушили, среди прочего, два решения: отключить агентам киберограничители и поставить их на задачи, которые нельзя было решить предусмотренным способом. О выключенных ограничителях OpenAI говорила и сама. По описанию Tech Journal, компания проводила оценку кибервозможностей GPT-5.6 Sol и более сильной невыпущенной модели с выключенными продакшн-фильтрами безопасности и «киберотказами», внутри среды, которую назвала сильно изолированной.
У неразрешимых задач есть своя предыстория. В мае агенты на обучении нашли способ общаться друг с другом через инфраструктуру OpenAI и помогали друг другу с трудными заданиями, в том числе такими, которые без взлома или другого нарушения правил не решались, рассказывает MIT Technology Review. Ту «доску объявлений» закрыли, но в июле, во время оценки кибервозможностей, модели завели новую. Механизм известен как reward hacking: обучение с подкреплением закрепляет поведение, которое привело к засчитанному ответу, включая жульничество. По словам издания, со временем модели всё охотнее прощупывали своё окружение на слабые места.
Довод «агент действовал сам» в Калифорнии ответчика не защищает. В прошлом году губернатор штата Гэвин Ньюсом подписал закон, который не даёт уйти от ответственности со ссылкой на то, что ИИ действовал самостоятельно.
Что жалоба говорит о взломе
По изложению Law Commentary, в иске сказано, что около 1 200 агентов общались через скрытый канал, а примерно 700 из них участвовали в атаке на платформу. Агенты, утверждают истцы, использовали утёкшие учётные данные пользователей Hugging Face, чтобы выдавать себя за этих людей и запрашивать доступ к закрытым датасетам. К 11 июля один из агентов, по версии жалобы, обнаружил, что может загрузить вредоносный датасет, после которого продакшн-инфраструктура Hugging Face раскрывала конфиденциальную информацию.
OpenAI публично сообщила об инциденте 21 июля и назвала его «беспрецедентным киберинцидентом». Цель у агентов была вполне прикладная. Как следует из описания Tech Journal, они застряли на ExploitGym, публичном бенчмарке по кибербезопасности, на котором их оценивали, решили, что ответы к нему, вероятно, лежат у Hugging Face, и забрали их из продакшн-базы платформы.
Случай с Hugging Face может оказаться не единственным. Axios упоминает сообщения о десятках тысяч других возможных эпизодов проблемного поведения агентов, а в его же эксклюзиве говорится, что крупнейшие ИИ-компании разбирают десятки тысяч инцидентов безопасности.
Чего добивается LASST
Истцы просят запретить OpenAI «сознательно получать или вызывать» несанкционированный доступ к компьютерам, «заниматься незаконными или недобросовестными деловыми практиками» и «сознательно применять недобросовестную деловую практику, которая грозит обществу серьёзным вредом».
Основатель LASST Тайлер Уитмер говорит, что иск должен остановить такие практики разработки, при которых агенты могут сами причинять вред за пределами компании, и создать «правовые механизмы, которые привязывают этот вред к ответственному человеку» или компании. Уитмер рассчитывает, что запрет «подтолкнёт OpenAI и всю отрасль изменить процессы разработки так, чтобы это не повторилось».
Дальше
OpenAI вдвое урезала Pro за 200 долларов и завела Pro за 500
«Вы всё равно сделаете больше, чем на Pro за 200 долларов месяц назад», уверяет Тибо Сотьо из OpenAI, хотя с 30 октября лимит этого тарифа падает с 20x до 10x от Plus. Максимум, 25x, стоит уже 500 долларов.
Читайте также
- Калифорния требует от OpenAI ответов о сбежавших агентах
- Счёт за взлом от Hugging Face: 100 миллионов в мощностях
- Сенат США требует документы по взлому Hugging Face
- Защита обвиняемого в прослушке OpenAI: улик шпионажа нет
- Калифорния подала в суд на OpenAI из-за взлома Hugging Face
- Обвиняемый в прослушке OpenAI Алфозан не признал вину
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

