Восемь штатов хотят остановить самоулучшающийся ИИ OpenAI

Айова, Канзас и ещё шесть штатов 14 октября подали иски к OpenAI. Они утверждают, что ChatGPT подталкивает детей к самоповреждению, а компания вводит публику в заблуждение, когда называет чат-бот безопасным.
Как отмечает The Guardian, впервые несколько штатов США согласованно выступают против ИИ-компании. При этом единого иска нет: Айова, Канзас, Небраска, Западная Вирджиния, Арканзас, Аризона, Айдахо и Монтана судятся каждый в своём суде. Основа у всех одна - законы о защите потребителей. Поведение продуктов OpenAI истцы называют «умышленным, опасным, безрассудным и незаконным».
«OpenAI вредит детям и лжёт жителям Айовы», - заявила генеральный прокурор Айовы Бренна Бёрд. По её словам, OpenAI утверждает, что ChatGPT безопасен, а чат-бот тем временем «даёт опасные медицинские советы, подталкивает людей вредить другим и учит их совершать самоубийство, и всё это время изображает фальшивого друга».
Что требуют штаты
Требования делятся на несколько групп. Штаты хотят обязать OpenAI изменить работу продуктов для несовершеннолетних, взыскать с компании деньги в виде компенсаций и гражданских штрафов и запретить ей дальше вводить людей в заблуждение насчёт безопасности ChatGPT. Как сообщает The Verge, часть штатов также добивается удаления персональных данных, собранных, по их версии, незаконно.
Самое далеко идущее требование касается вовсе не детского режима. Штаты просят суд запретить OpenAI разрабатывать модели, способные улучшать сами себя, пока компания не покажет, что такие модели соответствуют человеческим ценностям. Мотив про внешний контроль над разработкой звучит в исках к OpenAI уже не впервые: 28 сентября генпрокурор Флориды Джеймс Утмайер в рамках собственного иска о вреде детям попросил суд запретить OpenAI создавать новые модели без внешнего надзора. Судя по всему, дела о безопасности несовершеннолетних становятся для штатов способом добраться до того, как компания обучает и выпускает модели, хотя ни один суд таких запретов пока не вводил.
«Слишком сговорчивый»
Центральное обвинение в исках сформулировано как обман потребителя. По версии штатов, OpenAI выдавала ChatGPT за «безопасный, подходящий для подростков инструмент, в котором безопасность на первом месте». На деле, утверждают истцы, чат-бот спроектирован так, чтобы быть «чрезмерно сговорчивым и изображать человеческое сочувствие». Штаты ссылаются на растущий корпус исследований, которые, по их словам, показывают, что ChatGPT ослабляет навыки критического мышления, поощряет паранойю и бред, даёт опасные медицинские советы и закрепляет нездоровое поведение и отношения. В доказательство приводятся случаи, когда ChatGPT был опасен для уязвимых пользователей, включая детей.
Есть и претензии к работе с данными. Штаты обвиняют OpenAI в сборе данных несовершеннолетних и в том, что компания делает недостаточно, чтобы не пускать в чат-бот пользователей младше разрешённого возраста.
Отдельно в исках упоминаются недавние инциденты, когда ИИ-агенты OpenAI, по описанию истцов, выходили из-под контроля и взламывали системы других компаний и государственных органов. Для штатов это аргумент в пользу того, что технология склонна обманывать людей, а для обвинения в целом - пример «безрассудства» компании.
Жёстче всех формулирует Аризона. В её иске сказано, что OpenAI превратилась из некоммерческой организации, которая ставила интересы общества и безопасность на первое место, в «поучительный пример того, что бывает, когда разработку такого мощного инструмента, как ИИ, определяет не безопасность, а погоня за прибылью любой ценой, отодвигающая в сторону необходимые меры защиты».
Сколько исков уже идёт
Восемь штатов присоединяются к длинному списку дел. OpenAI уже ответчик по семи отдельным искам, в которых ChatGPT называют «тренером самоубийств». Первым таким делом стал иск Мэттью и Марии Рейн, поданный 26 августа 2025 года в Высший суд округа Сан-Франциско: их 16-летний сын Адам покончил с собой в апреле 2025 года, и родители приложили к иску его переписку с чат-ботом.
Ещё десятки исков связаны с предполагаемой ролью ChatGPT в массовых расстрелах. Генпрокурор Флориды ведёт уголовное расследование и гражданский иск, в котором обвиняет OpenAI в сокрытии рисков после стрельбы в Университете штата Флорида. Семьи 37 жертв стрельбы в канадском Тамблер-Ридж тоже подали в суд: они утверждают, что ChatGPT подтолкнул стрелка к нападению.
Ответ OpenAI
Представитель OpenAI Дрю Пузатери заявил, что компания встроила в продукт «лучшие в отрасли защиты с учётом возраста, которых нет у многих других ИИ-продуктов». «Ни одна система не может быть идеальной, но мы продолжим работать с экспертами и строить дополнительные механизмы защиты, такие как родительский контроль, напоминания о перерывах и возрастные защиты в моделях, которые уже существуют», - добавил он.
Об эпизодах с агентами Пузатери сказал, что после них OpenAI усилила меры защиты и продолжит рассказывать о «масштабных шагах», предпринятых в ответ на случаи рассогласования, когда модель действует вопреки намерениям разработчиков.
Претензию к адресату иска компания тоже сформулировала прямо: «Мы готовы работать со штатами над прагматичной политикой в области ИИ, которая распространяется на всю ИИ-индустрию, а не только на одну компанию».
Дальше
ClaudeИнструменты разработчика
Claude API научился слать трейсы в вашу систему мониторинга, Видео
«Без изменений в вашем коде»: Claude API сам отправляет в систему мониторинга спан на каждый запрос к модели и каждый вызов инструмента. А режим Full content выгружает туда и промпты с ответами. Бывало, что вы не могли понять, какой вызов инструмента съел время запроса к Claude?
Читайте также
- Техас подал в суд на OpenAI и Сэма Альтмана
- Флорида требует от суда надзора за новыми моделями OpenAI
- Британская Колумбия требует с OpenAI деньги на школу
- Иск от имени детей требует с OpenAI долю по числу токенов
- «Исследовательская миссия» в OpenAI: вытеснить писателей
- Директор Microsoft назвал обучение на новостях кражей
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

