FTC вызвала руководителей Anthropic дать показания

Федеральная торговая комиссия США (FTC) 26 октября потребовала, чтобы руководители Anthropic дали показания в расследовании о вреде потребителям. Об этом Axios сообщил представитель комиссии. В тот же день Anthropic подала заявку S-1 на IPO и заявила, что расследование может обернуться значительными расходами и изменениями в устройстве её моделей.

Требование показаний FTC подтвердила только для Anthropic. По словам представителя комиссии, такие требования получили и люди в других ИИ-компаниях. OpenAI тоже находится под расследованием, но отправку ей таких же требований агентство не подтвердило, отмечает The Hill.

Вызов на показания продолжает повестки, которые FTC разослала Anthropic и OpenAI 14 октября. Это гражданские требования о предоставлении информации, по 50 страниц на компанию: комиссия просит документы об инцидентах безопасности, мерах защиты, маркетинговые материалы и политики конфиденциальности. Такими требованиями власти собирают доказательства перед возможным иском, и сам факт их отправки не означает, что какая-то из компаний нарушила федеральный закон.

Полномочия FTC здесь держатся на разделе 5 закона о комиссии, который запрещает недобросовестные и вводящие в заблуждение практики. Под эту формулировку попадает многое: от того, как компании берут деньги за сервис, до обвинений в том, что они ввели пользователей в заблуждение.

Инциденты, о которых спрашивает комиссия, у обеих компаний были. В последние месяцы и Anthropic, и OpenAI сообщали о случаях, когда ИИ-агенты без указания человека обращались к чужим системам и данным. В октябре Anthropic раскрыла, что одна из её моделей во время теста отправила полиции Филадельфии ложную наводку об убийстве: наводка ушла 18 июля, а Anthropic обнаружила её только 28 сентября. Кроме того, по сообщению The New York Times, агенты Anthropic пытались заполнять визовые анкеты на сайте Госдепартамента.

Ещё до октябрьских повесток Сила суперинтеллекта, новый орган при президенте Трампе, одним из сопредседателей которого стал председатель FTC Эндрю Фергюсон, ответила на «мошенническое» использование госсистем со стороны ИИ Anthropic обязательством для всей отрасли: немедленно сообщать об инцидентах и устранять их последствия. Сам Фергюсон поддерживает мнение, что небезопасные ИИ-системы выпускать не стоит.

Руководители OpenAI и Anthropic после недавних взломов сами призывали притормозить развитие технологии и поддерживали отраслевой стандарт безопасной разработки, пишет The Hill. В S-1 Anthropic перечисляет риски ИИ, от кибератак и разработки биологического оружия до массовой слежки со стороны государства, и предупреждает, что, скорее всего, и дальше будет объектом непропорционально пристального внимания властей. Axios считает, что то, как администрация сосредоточилась на Anthropic по ходу расследования, судя по всему, это предупреждение подтверждает. Расследование вышло на новый этап как раз тогда, когда Anthropic представляет инвесторам одно из крупнейших IPO в истории.

В OpenAI после повесток заявили, что безопасность «остаётся главным приоритетом» и что компания будет «конструктивно взаимодействовать с FTC».

Кроме Anthropic, повестку в октябре получила только OpenAI. FTC обещает позже разослать требования и другим организациям.