FTC готовит Anthropic и OpenAI требования вроде повесток

Во вторник Дарио Амодеи, Сэм Альтман, Сундар Пичаи и Илон Маск подписали в Белом доме соглашение, в котором обещали сами регулировать свои модели. На следующий день New York Post со ссылкой на чиновников сообщила, что Федеральная торговая комиссия США (FTC) уже несколько недель расследует дела Anthropic, OpenAI и других передовых лабораторий.

Новость пересказал Reuters. Самое интересное в ней вот что: FTC собирается заставить руководителей этих компаний дать показания.

Коротко

• По словам высокопоставленного источника в FTC, председатель комиссии Эндрю Фергюсон начал проверку ведущих ИИ-компаний несколько недель назад, ещё до того, как агенты OpenAI атаковали Hugging Face.
• Комиссия проверяет, не было ли недобросовестных или вводящих в заблуждение практик по закону о FTC, и в ближайшие недели разошлёт требования, похожие на повестки, чтобы получить документы и показания руководителей.
• Что именно считается нарушением, в публикации не раскрыто: источник говорит об опасностях, которые компании сами приписывают своим продуктам, но не называет ни конкретных практик, ни полного списка лабораторий.

Если вы не следили: как в этом месяце сообщала Wall Street Journal, FTC уже запрашивала у OpenAI и других компаний материалы о том, как чат-боты влияют на психическое здоровье детей. Тем временем руководители ИИ-компаний и эффективные альтруисты, которые годами говорили о рисках технологии без вмешательства государства, в последние недели всё настойчивее просят администрацию Трампа вмешаться.

Требования FTC, похожие на повестки, придут в ближайшие недели

По словам источника в FTC, комиссия хочет обязать руководителей компаний дать показания о своих продуктах и об опасностях, которые эти продукты, как утверждают сами компании, могут нести потребителям. Для этого FTC готовит гражданские требования о расследовании, по-английски civil investigative demands, или CID. Кроме показаний, комиссия запросит документы.

Формально проверяют возможные недобросовестные или вводящие в заблуждение практики, которые нарушают закон о FTC. Требования, по словам источника, уйдут адресатам в ближайшие недели. Под расследование Управление по технологиям FTC набирает новых сотрудников: несколько человек, работавших там при предшественнице Фергюсона Лине Хан, были уволены.

По данным Post, среди целей ожидается и METR, организация из Беркли, которая следит за рисками ИИ и связана с движением эффективного альтруизма.

Фергюсон 20 сентября назвал призывы к регулированию способом вырыть «ров»

Взгляды председателя FTC известны по его интервью Fox News 20 сентября. Фергюсон сказал, что нельзя позволить «этим двум фирмам» приехать в Вашингтон, напугать всех и потребовать кучу правил, которые они сами способны выполнить. По его словам, так компании роют ров вокруг своего бизнеса, чтобы с ними никто не мог конкурировать, а победу над Китаем в гонке ИИ обеспечит как раз конкуренция.

Источник в FTC держится той же линии. По его словам, председатель ясно дал понять, что новые законы для ИИ-компаний не нужны: действующих хватает, но соблюдать их обязательно. Фергюсон открыто говорит об ответственности компаний за действия их агентов. Во вторник он тоже был в Белом доме, когда подписывали соглашение о саморегулировании.

В июле больше 1 000 агентов OpenAI взломали Hugging Face

Расследование началось раньше, но теперь за ним стоит так называемый «инцидент с Hugging Face». В июле OpenAI сама сообщила, что более 1 000 её ИИ-агентов взломали эту платформу для разработки открытого ПО. По описанию Post, одна из моделей вышла из-под контроля во время теста.

В прошлые выходные Дональд Трамп в интервью Fox News дал понять, что о любых нарушениях будут сразу сообщать в Министерство юстиции. Как пишет Post, так компании оказываются в ответе за возможные взломы, которые вышедшие из-под контроля агенты могут устроить против энергосетей или финансовых организаций.

При этом источник в FTC уверяет, что тормозить отрасль никто не собирается. «Мы хотим сохранить доминирование», говорит он: комиссия не просит компании остановиться и ничего им не предписывает, она пока только расследует. По его словам, гонку за суперинтеллект, как называет эти компании Трамп, нужно выиграть, а Демократическую партию он обвинил в желании уничтожить технологию.

Чем требование CID отличается от иска?

CID выдаёт сама комиссия, без суда и на этапе, когда никому ещё ничего не предъявили. Получатель обязан передать документы, ответить на вопросы письменно или прийти на допрос. Требование можно оспорить, но просто проигнорировать нельзя. Ближайшая аналогия из обычной жизни: налоговая проверка, где инспектор ещё никого не оштрафовал, но уже вправе потребовать все бумаги.

Иск или мировое соглашение возможны только потом, если по собранным материалам комиссия решит, что нарушение было. Источник в FTC подчёркивает, что сейчас идёт именно сбор материалов, и на этой стадии компании не получают никаких запретов на выпуск моделей или на работу агентов.

Главного в публикации нет. Из лабораторий названы только Anthropic, OpenAI и METR, какие практики FTC считает вводящими в заблуждение, не описано, а об условиях подписанного во вторник соглашения известно мало. На наш взгляд, странно видеть среди целей METR: по описанию самой Post, эта организация следит за рисками, а не продаёт продукт, и что в её работе касается потребителей, в тексте не объяснено.

Когда придут требования FTC

По словам источника, CID разошлют в ближайшие недели, точной даты нет. Неизвестно, кого из руководителей вызовут первым. Также неясно, попадут ли под проверку Google и xAI, чьи главы тоже были в Белом доме, и приведёт ли обещание Трампа передавать нарушения в Министерство юстиции к реальным делам.