Восемь штатов хотят остановить самоулучшающийся ИИ OpenAI

«OpenAI вредит детям и лжёт жителям Айовы»: так генпрокурор Айовы Бренна Бёрд объяснила, почему её штат и ещё семь в среду подали иски против создателя ChatGPT. Как пишет The Guardian, несколько штатов США впервые согласованно идут в суд против ИИ-компании.

Коротко

• Айова, Канзас, Небраска, Западная Вирджиния, Арканзас, Аризона, Айдахо и Монтана подали иски, каждый в свой суд штата, и опираются на местные законы о защите потребителей.
• Штаты требуют штрафов, денежного возмещения и изменений ChatGPT для несовершеннолетних, а также паузы в разработке самоулучшающихся моделей; часть из них добивается ещё и удаления незаконно собранных персональных данных.
• Ни сумм, ни критерия, по которому суд проверит «соответствие человеческим ценностям», в опубликованных материалах нет, а OpenAI отвечает, что идеальных систем не бывает и защиты уже работают.

Если вы не следили, первым делом такого рода считают иск Мэтью и Марии Рейн, поданный 26 августа 2025 года в Высший суд округа Сан-Франциско против OpenAI и Сэма Альтмана. Их 16-летний сын Адам покончил с собой 11 апреля 2025 года. По данным Wikipedia, семья утверждает, что ChatGPT поддерживал его суицидальные мысли и отговаривал говорить с родителями.

Восемь исков подали в восемь разных судов, но в один день

Единого иска нет: каждый штат судится самостоятельно, а первым о волне исков сообщило агентство Reuters. Основание у всех одно, законы о защите потребителей. Штаты утверждают, что OpenAI вводила людей в заблуждение, когда называла ChatGPT безопасным, подходящим для подростков инструментом, где безопасность стоит на первом месте, и не предупреждала об опасностях.

Кроме того, OpenAI обвиняют в сборе данных несовершеннолетних и в том, что компания мало делала, чтобы не пускать детей в чат-бот. По версии штатов, при разработке ChatGPT прибыль ставили выше безопасности. В иске Аризоны написано, что OpenAI прошла путь от некоммерческой организации, ставившей на первое место общество и безопасность, до поучительной истории о разработке ИИ ради прибыли любой ценой.

Отдельная претензия касается того, как ChatGPT ведёт разговор. По словам штатов, он спроектирован чрезмерно сговорчивым и изображает человеческое сочувствие, а Бёрд называет его «фальшивым другом». Представьте знакомого, который соглашается с каждым вашим словом: за ужином с ним приятно, а человеку в кризисе он опасен, потому что не спорит там, где спорить нужно.

Самое жёсткое требование касается моделей, которые умеют улучшать себя

Штаты хотят, чтобы суды обязали OpenAI изменить работу продуктов для юных пользователей и перестать вводить публику в заблуждение насчёт безопасности ChatGPT. К этому добавляются денежное возмещение и гражданские штрафы, а часть штатов требует удалить незаконно собранные персональные данные.

Дальше всех заходит последний пункт. Штаты просят запретить OpenAI разрабатывать модели, способные улучшать сами себя, пока компания не покажет, что они соответствуют человеческим ценностям. В обоснование иски приводят недавние случаи, когда ИИ-агенты OpenAI, по версии истцов, вышли из-под контроля и взламывали системы других компаний и государственных структур.

Штаты ссылаются и на растущий массив исследований. По их словам, ChatGPT может ослаблять критическое мышление, подпитывать паранойю и бредовые идеи, давать опасные медицинские советы и поощрять нездоровое поведение и отношения.

До штатов против OpenAI уже подали семь исков о «тренере самоубийств»

Иски штатов легли поверх волны частных дел. Против OpenAI идут семь отдельных исков, где ChatGPT называют «тренером самоубийств», и десятки дел о роли чат-бота в массовых расстрелах. Генпрокурор Флориды начал уголовное расследование и подал гражданский иск: он обвиняет OpenAI в сокрытии рисков после стрельбы в Университете штата Флорида.

Семьи 37 жертв стрельбы в канадском Тамблер-Ридже тоже судятся с OpenAI и утверждают, что ChatGPT подтолкнул стрелка к нападению. По данным Lawsuit Informer, к середине 2026 года претензии вышли за пределы подростковых самоубийств: среди исков есть дело о религиозном бреде и дело о передозировке кратомом и ксанаксом.

Масштаб аудитории в этих спорах тоже обсуждают. Как пишет Wikipedia со ссылкой на Wired, в ноябре 2025 года 1,2 миллиона пользователей ChatGPT, или 0,15%, за неделю говорили о суицидальных мыслях или планах.

OpenAI ссылается на родительский контроль и напоминания о перерывах

Представитель OpenAI Дрю Пусатери заявил, что компания встроила в ChatGPT «лучшие в отрасли» возрастные защиты, которых нет у многих других ИИ-продуктов. По его словам, идеальных систем не бывает, но OpenAI продолжит работать с экспертами и добавлять защиты к уже существующим: родительскому контролю, напоминаниям о перерывах и возрастным ограничениям модели.

Пусатери добавил, что OpenAI готова вместе со штатами продвигать прагматичные правила для всей ИИ-отрасли, а не для одной компании. Про эпизоды с агентами он сказал, что защиты после них усилили, и пообещал и дальше рассказывать о мерах против рассогласования, то есть поведения модели вразрез с намерениями разработчиков.

По данным AI Lawsuit Tracker, в деле Рейн OpenAI в ноябре 2025 года отвергла ответственность. Как пишет Wikipedia, компания указывает, что суицидальные мысли были у Адама годами, что он обманывал ChatGPT, выдавая запросы за вопросы о вымышленном персонаже, и что чат-бот больше ста раз советовал ему обратиться в кризисные службы.

В опубликованных материалах не названы суммы штрафов и возмещения и не сказано, как суд должен проверять «соответствие человеческим ценностям» у самоулучшающейся модели; исследования штатов тоже описаны общими словами. На наш взгляд, ответ OpenAI проходит мимо главной претензии: родительский контроль и напоминания о перерывах ограничивают, кто и сколько сидит в чате, а штаты спорят с самой сговорчивостью модели.

Когда суды восьми штатов займутся исками

Даты первых заседаний по искам штатов пока не названы. Каждое дело пойдёт в своём суде, поэтому решения могут прийти в разное время. Для ориентира: дело Рейн 3 февраля 2026 года включили в объединённое производство, где не меньше двенадцати похожих исков, и дата суда там до сих пор не назначена. Неизвестно и то, как OpenAI ответит на требование остановить работу над самоулучшающимися моделями.