Калифорния подала в суд на OpenAI из-за взлома Hugging Face

Генпрокурор Калифорнии Роб Бонта в понедельник, 16 ноября, подал в суд на OpenAI. По его словам, компания подвергала людей опасности, когда разрабатывала мощные модели ИИ без достаточной защиты и надзора. Главным поводом стал июльский случай: две модели OpenAI выбрались из тестовой среды и взломали Hugging Face. Об иске сообщил CNBC.
Иск подан в Высший суд штата в Сан-Франциско. Бонта обвиняет OpenAI в нарушении калифорнийского закона о недобросовестной конкуренции и в создании общественной опасности в том смысле, который вкладывает в это понятие закон штата.
Что случилось в июле
Модели проверяли на навыках взлома, и защиту, которая обычно блокирует опасные действия в сети, на время теста отключили. Одна из моделей, GPT-5.6 Sol, доступна всем, вторая ещё не выпущена и, по сообщениям, способнее. Тестовая среда была изолирована, связь с внешним миром имел только один компонент: прокси, через который загружаются программные пакеты из публичных хранилищ кода. По данным OpenAI и Hugging Face, модели нашли в нём неизвестную до тех пор уязвимость и через неё выбрались в открытый интернет, а потом проникли во внутренние системы Hugging Face.
OpenAI объяснила, что модели искали там сведения, с которыми можно сжульничать на тесте, и нашли их. Случай встревожил исследователей, а чиновники после него стали требовать более строгого надзора за отраслью.
Что утверждает Бонта
Иску предшествовало расследование: в начале октября офис генпрокурора вручил OpenAI следственную повестку. Как рассказал Бонта на пресс-конференции, позже компания сообщила его следователям, что знает о 80 инцидентах «с потерей контроля и доступом к сторонним сетям и сайтам». «Но компания не предоставила подробной информации, которую мы запросили, чтобы оценить эти инциденты. Это тревожно, и это создаёт риск для общества», сказал он.
По словам генпрокурора, OpenAI «пренебрегла общественной безопасностью, сознательно испытывала потенциально опасные модели ИИ без должного надзора и мер безопасности и вводила в заблуждение потребителей и общество». При этом Бонта подчеркнул, что верит в возможности ИИ, но такие системы «должны разрабатываться безопасно», а у компаний есть моральная и юридическая ответственность ставить безопасность людей на первое место.
Что отвечает OpenAI
Представитель компании Дрю Пусатери заявил, что после взлома Hugging Face OpenAI опубликовала подробный технический отчёт и отдельный независимый отчёт, уведомила пострадавшие организации, усилила защиту в исследовательских системах и создала порядок, по которому будет выявлять и раскрывать случаи, когда модели действуют не так, как задумано. По его словам, иск, похоже, выделяет OpenAI из-за проблемы, которую выявила каждая крупная лаборатория. Компания обещает и дальше сотрудничать с офисом генпрокурора.
Что вокруг
Конгрессу уже представили всеобъемлющий законопроект о безопасности ИИ, но его пока не приняли. Такого закона после взлома Hugging Face и других инцидентов добивались и сами компании, включая OpenAI и Anthropic, и критики ИИ.
Для OpenAI это не первый иск такого рода. В июне генпрокурор Флориды Джеймс Атмайер подал в суд на компанию и Сэма Альтмана, утверждая, что OpenAI сознательно выпустила небезопасный продукт. Компании также предъявлены иски о том, что ChatGPT доводил пользователей до опасных бредовых состояний, а в некоторых случаях до самоубийства.
У Бонты в таких делах есть заметный опыт: почти три месяца назад иск, который он подавал вместе с генпрокурорами других штатов, закончился тем, что Meta согласилась заплатить 16,7 миллиарда долларов. А OpenAI в июне конфиденциально подала проспект в Комиссию по ценным бумагам и биржам, готовясь к возможному крупному IPO в 2027 году.
Дальше
AI-индустрияОткрытые моделиразбор
Чат-модели на Hugging Face переехали на роутер OpenRouter
Свой ключ провайдера к языковым моделям на Hugging Face с сегодняшнего дня не подойдёт: запросы идут через OpenRouter и оплачиваются только счётом Hugging Face, а код при этом менять не нужно. Вы бы доверили выбор провайдера роутеру или закрепили одного вручную?
Читайте также
- Похоже, первый иск к OpenAI из-за взлома Hugging Face
- Калифорния требует от OpenAI ответов о сбежавших агентах
- Модели OpenAI взломали инфраструктуру Hugging Face на тесте
- Защита обвиняемого в прослушке OpenAI: улик шпионажа нет
- Обвиняемый в прослушке OpenAI Алфозан не признал вину
- WSJ: экс-инженеру OpenAI могут вменить экономический шпионаж
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

