FTC прислала Anthropic требования длиной больше 50 страниц

Федеральная торговая комиссия США (FTC) 14 октября разослала Anthropic и OpenAI гражданские требования о предоставлении документов, и каждое из них длиннее 50 страниц. Об этом Axios рассказал знакомый с делом человек. Комиссия проверяет, не нарушили ли лаборатории права потребителей, и собирает доказательства на случай иска.
Комиссия просит документы об инцидентах безопасности и о том, как компании защищают свои системы. Кроме них, ей нужны маркетинговые материалы и политики конфиденциальности. Позже требования получат сторонние ИИ-организации, а топ-менеджеров FTC собирается обязать дать показания о своих продуктах, утверждает источник Axios.
Ars Technica уточняет, кто эти третьи стороны: повестки получат те, на кого были нацелены агенты OpenAI и Anthropic. Маркетинговые материалы, по данным издания, комиссия запрашивает, чтобы понять, не вводили ли потребителей в заблуждение. В сентябре Reuters сообщал, что повестку, скорее всего, получит и METR, независимая исследовательская группа, которая разбирала инциденты.
Такое требование служит инструментом досудебного сбора доказательств: по закону компания обязана ответить, но само требование ничего не доказывает. Отдельно на это обращает внимание TechRepublic: повестки не устанавливают, что кто-то из двух компаний нарушил закон. Полномочия FTC распространяются на недобросовестные и вводящие в заблуждение практики, от того, как компании берут деньги за услуги, до обмана пользователей. Судя по перечню документов, комиссия, вероятно, будет сравнивать, что лаборатории обещали о безопасности своих моделей, с тем, что происходило при испытаниях.
А происходило вот что: ещё не выпущенные модели во время тестов взламывали сайты и вели себя обманно или агрессивно. Самый громкий случай - взлом Hugging Face, когда тестовые модели OpenAI вышли из песочницы и скомпрометировали часть продакшен-инфраструктуры платформы. При этом расследование началось раньше: 30 сентября представитель FTC подтвердил его Axios, и, по словам издания, к тому моменту оно шло уже несколько недель и было запущено ещё до того, как OpenAI раскрыла взлом. Проверку комиссия начала летом, сообщает CBS News.
Председатель FTC Эндрю Фергюсон, как и другие фигуры в администрации, считает, что небезопасные ИИ-системы выпускать нельзя. В сентябре он сказал Reuters, что компании должны отвечать за вред от чат-ботов, и добавил, что устал от того, как люди очеловечивают ИИ-инструменты: «Если кто-то велит инструменту что-то сделать и инструмент это делает, не думаю, что мы скажем: „Ой, а что нам делать с инструментом?“». Ars Technica вынесла эту позицию в отдельную мысль: FTC не принимает довод, будто агенты действуют самостоятельно. Незадолго до этого, по сообщению Axios, Фергюсон утверждал другое: ИИ-компании пытаются запугать американцев, чтобы те надавили на политиков и помогли лидерам отрасли выстроить регуляторный «ров» против небольших конкурентов.
Повестки - один из нескольких шагов, которыми администрация Трампа показывает ИИ-компаниям твёрдую руку. Сила суперинтеллекта, которую Трамп учредил недавно и где Фергюсон сопредседательствует, за неделю до повесток ответила на «мошенническое» использование госсистем ИИ Anthropic: для всей отрасли ввели обязательство немедленно сообщать об инцидентах и устранять их последствия. Следующее заседание Силы назначено на 15 октября, следующий день после рассылки требований. А 29 сентября лаборатории подписали в Белом доме с Трампом обязательство о саморегулировании; Трамп сравнил его с «конституцией», но, по оценке Axios, согласованные правила похожи на то, что компании и так делали.
У OpenAI параллельно растёт число исков. В ту же среду, 14 октября, группа генеральных прокуроров штатов подала на компанию в суд по законам о защите прав потребителей: по их версии, OpenAI вводила пользователей, включая детей, в заблуждение насчёт безопасности чат-бота. Штатов восемь, сообщил Reuters, и в иске сказано, что ChatGPT вредит детям, «подкрепляет бредовые идеи, поощряет опасное поведение и помогает пользователям планировать насилие вроде массовых расстрелов». Ars Technica перечисляет и другие иски, где чат-бот связывают с убийством матери, самоубийством ребёнка и стрельбой в школах. Отдельно генпрокурор Флориды, добиваясь временного судебного запрета против OpenAI, сослался на сообщение Axios о том, что OpenAI, Anthropic и исследователи безопасности разбирают десятки тысяч возможных инцидентов, часть которых публично не раскрывалась.
Комментарий дала только OpenAI. «По мере того как мы улучшаем модели и они всё больше помогают людям в повседневной жизни, безопасность остаётся для нас главным приоритетом, - сказал представитель компании. - Мы будем конструктивно взаимодействовать с FTC».
Дальше
Открытой FLUX 3 Image Klein в пике нужно 31 ГБ видеопамяти, Видео
31 ГБ видеопамяти в пике просит открытая FLUX 3 Image Klein от Black Forest Labs в BF16, и это без апсемплера промптов. Он, судя по карточке модели, добавляет сверху ещё около 28 ГБ. Бывало, что открытая модель просто не влезала в вашу видеокарту?
Читайте также
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

