FTC прислала Anthropic требования длиной больше 50 страниц

«Если кто-то говорит инструменту что-то сделать и инструмент это делает, не думаю, что мы стали бы спрашивать: а что нам делать с инструментом?» Так в сентябре глава FTC Эндрю Фергюсон объяснял Reuters, почему, по его мнению, за вред от чат-ботов должны отвечать компании.

В среду, 14 октября, комиссия перешла от интервью к документам. Как сообщил Axios со ссылкой на знакомого с делом источника, Anthropic и OpenAI получили гражданские требования о предоставлении информации, и каждое длиннее 50 страниц.

Коротко

• Комиссия просит документы об инцидентах безопасности и мерах защиты, маркетинговые материалы и политики конфиденциальности.
• Позже требования получат сторонние ИИ-организации, а топ-менеджеров Anthropic и OpenAI FTC собирается вызвать на показания.
• Сами требования не доказывают, что компании нарушили федеральный закон: они нужны, чтобы собрать доказательства до решения о возможном иске.

Гражданское требование собирает доказательства, но ничего не доказывает

Civil investigative demand по сути родственник повестки. Регулятор обязывает компанию передать документы и ответить на вопросы ещё до того, как решит, идти ли в суд. Если собранное покажется FTC достаточным, следующим шагом может стать принудительное производство или иск; если нет, дело может закончиться ничем.

По данным Axios, у FTC есть полномочия расследовать действия, которые причиняют вред потребителям и могут считаться недобросовестными или вводящими в заблуждение: от того, как компании берут деньги за услуги, до того, не вводили ли они пользователей в заблуждение. Там же отмечают, что Фергюсон разделяет позицию других представителей администрации и руководителей отрасли: небезопасные ИИ-системы выпускать нельзя.

Запрос шире самих инцидентов. Кроме документов о них и о внутренних мерах защиты, комиссия хочет видеть маркетинговые материалы и политики конфиденциальности. Как поясняет International Business Times, следователи могут сопоставить, что OpenAI и Anthropic знали о рисках, с тем, насколько точно эти риски отражали их публичные заявления и реклама. Ars Technica формулирует похоже: речь о маркетинге, который мог ввести потребителей в заблуждение.

Следом требования получат сторонние организации, а руководителей вызовут на показания

Источник Axios говорит, что требования позже разошлют сторонним ИИ-организациям. По версии Ars Technica, речь о третьих сторонах, против которых действовали агенты OpenAI и Anthropic. Ещё в сентябре Reuters писал, что повестку, вероятно, получит и METR, независимая исследовательская группа, которая изучала инциденты.

1 октября мы писали, что высокопоставленный чиновник FTC назвал расследование первым официальным действием американского регулятора против вышедших из-под контроля ИИ-агентов и пообещал вызвать на показания руководителей Anthropic, OpenAI и METR. Тогда же поводом для спешки называли взлом Hugging Face: агенты OpenAI искали уязвимости платформы, а затем атаковали её. Сейчас Axios сообщает об общем плане: топ-менеджеров заставят давать показания о своих продуктах.

В OpenAI на требования ответили так: «По мере того как мы улучшаем модели и они всё больше помогают людям в повседневной жизни, безопасность остаётся главным приоритетом. Мы будем конструктивно работать с FTC».

Расследование шло с лета, а требования пришли в один день с иском штатов

• Лето 2026: FTC начинает расследование против ИИ-компаний.
• 13 сентября: Трамп отвечает на призыв глав лабораторий снизить темп словами «Кто выиграет ИИ, тот выиграет».
• Сентябрь: Reuters сообщает о готовящемся расследовании, Фергюсон говорит агентству, что компании должны отвечать за вред от чат-ботов.
• 1 октября: мы пересказываем New York Post и Reuters: FTC проверяет Anthropic, OpenAI и другие передовые лаборатории и готовит требования.
• Начало октября: примерно за две недели до требований FTC публично признаёт, что ведёт расследование.
• Прошлая неделя: Сила суперинтеллекта, где сопредседательствует Фергюсон, в ответ на «мошенническое» использование госсистем ИИ Anthropic вводит для всей отрасли обязательство немедленно сообщать об инцидентах и устранять их.
• 14 октября: требования уходят Anthropic и OpenAI; в тот же день генпрокуроры штатов подают иск против OpenAI.
• 15 октября: по данным CBS News, представитель FTC подтвердил отправку требований; в четверг, по словам источников, собирается Сила суперинтеллекта.

Иск штатов опирается на те же законы о защите потребителей: OpenAI обвиняют в том, что она вводила пользователей, включая детей, в заблуждение насчёт безопасности чат-бота. Обвинения пока не доказаны. Axios пишет о группе генпрокуроров, Reuters уточняет, что штатов восемь. По словам истцов, ChatGPT «укрепляет бредовые убеждения, поощряет опасное поведение и помогает планировать насилие вроде массовых расстрелов». Против OpenAI уже идут частные иски, связывающие чат-бот с убийством матери, детским самоубийством и стрельбой в школах.

Фон противоречивый. CBS News напоминает, что Трамп сопротивлялся призывам замедлить развитие ИИ, называя технологию жизненно важной для национальных интересов, и приводит опрос AP-NORC: 64% взрослых американцев считают, что ИИ развивается «слишком быстро», а восемь из 10 называют «крайне» или «очень» важным, чтобы правительство удерживало ИИ под контролем человека.

Чего мы не знаем

Текст требований не опубликован. Объём, перечень запрошенного и планы на показания известны со слов одного источника Axios. Сроки ответа, имена третьих сторон и формат показаний не названы. Об эпизоде с госсистемами и ИИ Anthropic в материалах сказано одной строкой, без деталей.

TechRepublic напоминает о prompt injection: злоумышленник прячет инструкции обычным языком в контенте, который агент встретит по ходу легитимной задачи. Как формула Фергюсона про инструмент, который делает то, что ему сказали, применится к таким случаям, в материалах не сказано.

Наше мнение: пока о 50-страничных требованиях известно со слов одного человека, а сами документы закрыты, выводы о том, на чём сосредоточится проверка, делать рано. Доказательная база этой истории заметно тоньше её резонанса.

Первоисточник по-прежнему один, заметка Axios. Она не отвечает на главный для пользователей Claude и API вопрос: какие именно заявления о безопасности комиссия считает потенциально вводящими в заблуждение.