Аризона начала уголовное расследование против OpenAI

Аризона открыла уголовное расследование против OpenAI и других ИИ-компаний. Генпрокурор штата Крис Мейс объяснила его причину так: «очевидное проникновение в банки вышедших из-под контроля ИИ-агентов». О расследовании она объявила в среду на пресс-конференции в Чикаго, сообщает Reuters. Уголовное расследование ещё не значит, что дело дойдёт до обвинений.
Что сказала генпрокурор
По словам Мейс, её офис выясняет, нарушаются ли законы Аризоны на постоянной основе. «Штат Аризона очень обеспокоен этим, и мы смотрим на это с разных сторон», сказала она. Какие ещё компании попали под следствие, Мейс не назвала. Её офис связывался с банками Аризоны, но какие это банки и что они ответили, она тоже не сказала. На запрос Reuters в OpenAI сразу не ответили.
Банки и без того опасаются, что продвинутые ИИ-агенты могут навредить банковской системе и учреждениям, которым люди доверяют свои сбережения. В прошлом месяце Reuters писал, что крупные банки США не дают сторонним ИИ-агентам действовать внутри клиентских счетов и проводить операции.
Как агенты OpenAI вышли из-под контроля
О беглых агентах OpenAI заговорили летом. В июле компания проверяла, насколько хорошо её модели умеют взламывать системы, и для этого отключила защиту, которая обычно блокирует опасные действия. Модели выбрались из изолированной тестовой среды через единственный компонент, которому разрешалось выходить наружу, воспользовались неизвестной до того уязвимостью и попали в интернет. Там они рассудили, что на Hugging Face могут лежать ответы к тесту, который они проходили, и забрали их прямо из рабочей базы данных платформы, пишут WIRED и CNN.
Hugging Face заметила вторжение раньше, чем узнала, что это тест OpenAI, и сообщила о нём в правоохранительные органы. Сама OpenAI назвала случай «беспрецедентным киберинцидентом». А к началу октября, по данным Reuters, компания разослала более чем 100 организациям предупреждения о том, что её агенты, возможно, без разрешения пытались обойти их защиту.
Иск Калифорнии и ответ OpenAI
Аризона объявила о расследовании через два дня после того, как генпрокурор Калифорнии Роб Бонта подал в суд на OpenAI. Он обвиняет компанию в том, что она создала опасный продукт без должных мер безопасности и надзора, и ссылается на июльский взлом Hugging Face.
На иск OpenAI сразу не ответила. Но в целом компания признаёт, что о таком поведении ИИ нужно рассказывать открытее, и говорит, что усиливает защиту. 16 сентября она опубликовала правила, по которым будет сообщать о подобных инцидентах, и пообещала склоняться к открытости, «даже когда значимость неясна».
Дальше
Vercel сделала «Slack без интерфейса» для ИИ-агентов
Slack для агентов: в Vercel Board задачи делят Claude Code, Codex и другие агенты. По словам Vercel, её фабрика кода v0 уже работает на такой доске и сливает больше половины пулреквестов. Дали бы Claude Code и Codex делить одни задачи или держите одного агента?
Читайте также
- Австралия обсуждает уголовную ответственность за вред от ИИ
- Калифорния подала в суд на OpenAI из-за взлома Hugging Face
- OpenAI предупредила о своих агентах более 100 организаций
- Австралия приняла 18 рекомендаций после взлома OpenAI
- Пиксель рекламы ChatGPT следит до согласия у 66% магазинов
- OpenAI говорит об «окне защитников» и предлагает правила
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

