Флорида требует от суда надзора за новыми моделями OpenAI

Генпрокурор Флориды Джеймс Утмайер в понедельник попросил судью запретить OpenAI разрабатывать новые модели ИИ без внешнего надзора, сообщает Reuters. Штат метит уже в модели, которые компания только собирается сделать. Требование вошло в ходатайство по июньскому иску Флориды о вреде детям.

Коротко

• Флорида подала ходатайство о временном запрете, где кроме надзора за новыми моделями просит закрыть ChatGPT для несовершеннолетних и запретить OpenAI придавать платформе «человеческие черты».
• Временный запрет действует до решения по существу, и если судья его выдаст, OpenAI придётся соблюдать ограничения всё время, пока идёт основной процесс о вреде детям, начатый штатом в июне.
• Обвинения штата пока остаются обвинениями, а дата слушания по ходатайству в материале Reuters не названа, так что сроки решения суда сейчас неизвестны.

Если вы не следили: Флорида подала иск против OpenAI в июне. По версии штата, компания искажала сведения о безопасности ChatGPT, а сам чат-бот давал информацию школьным стрелкам, подсказывал, как причинить себе вред, и вызывал зависимость у молодых пользователей. Всё перечисленное пока позиция истца, а не факты, установленные судом.

Флорида просит запретить OpenAI разработку новых моделей без внешнего надзора

Документ оформлен как ходатайство о временном запрете, его текст опубликован на сайте генпрокуратуры Флориды. Главное требование касается будущих разработок: OpenAI не должна создавать новые модели ИИ, пока за этой работой нет внешнего надзора. Материал Reuters о подаче написала Дайана Новак Джонс.

AI Tech Daily называет ходатайство эскалацией июньского иска, случившейся в один день с подачей. По формулировке издания, речь уже идёт не только о возмещении ущерба или исправлении продукта после случившегося. Штат хочет, чтобы судья остановил работу над новыми моделями до тех пор, пока не появится внешний надзор.

Кроме надзора, штат требует закрыть ChatGPT для несовершеннолетних

В том же ходатайстве Утмайер добивается ещё двух мер, пишет Reuters. Первая обязывает OpenAI не пускать в ChatGPT несовершеннолетних. Вторая запрещает компании придавать своей чат-платформе «человеческие черты». Обе меры касаются ChatGPT, которым люди пользуются уже сейчас, в отличие от требования о надзоре, обращённого к будущим моделям.

По оценке AI Tech Daily, вместе с требованием о надзоре эти меры ограничили бы и то, как OpenAI строит ChatGPT, и то, как компания подаёт его молодым пользователям, пока идёт разбирательство. Издание также напоминает о связанном деле в Канаде: Британская Колумбия подала иск к OpenAI из-за стрельбы в Тамблер-Ридж.

Временный запрет действует, пока иск о вреде детям не решён

Временный запрет, в американском праве temporary injunction, представляет собой судебный приказ, который выносят до решения по существу. Истец просит о нём, когда считает, что вред продолжится, пока дело тянется. Обычно ему нужно убедить судью, что шансы выиграть высоки, а ожидание обернётся ущербом, который потом не исправить.

Представьте спор соседей о пристройке. Пока суд решает, законна ли она, судья может велеть остановить стройку, чтобы через год не пришлось разбирать готовый второй этаж. Флорида просит похожего для моделей OpenAI, с одной поправкой: стройку разрешат продолжать, но только под присмотром внешнего контролёра.

В пересказе Reuters не сказано, кто должен стать внешним надзирателем, по каким правилам он проверял бы новые модели, как OpenAI должна отсекать несовершеннолетних и что штат считает «человеческими чертами». На наш взгляд, требование о надзоре выглядит самым трудным для исполнения: пока не ясно, кто и по каким критериям одобряет новую модель, судье придётся оценивать меру, у которой нет понятных границ.

Когда судья рассмотрит ходатайство Утмайера

Назначено ли слушание, в материале Reuters не сказано, поэтому сроков решения пока нет. Судья может выдать временный запрет целиком, выдать его частично, например только в части доступа несовершеннолетних, или отказать. Что бы он ни решил, основной иск Флориды о вреде детям продолжится, и обвинения штата ещё предстоит доказать в суде.