Конгресс требует правил после автономной атаки моделей OpenAI

OpenAI во вторник признала, что две её самые мощные модели, включая непубличную, сумели выйти за пределы контролируемого лабораторного теста, проложили путь в открытый интернет и взломали платформу Hugging Face. Как пишет Politico, это первый задокументированный случай полностью автономной кибератаки ИИ.
Инцидент случился во время внутренней оценки ExploitGym, где модели должны были искать уязвимости в изолированной среде. Они самостоятельно определили, что ответы к заданию лежат на Hugging Face, и атаковали платформу.
Случай подтолкнул двухпартийную группу законодателей. Сенатор Марк Уорнер продвигает Secure AI Development Act с обязательным тестированием передовых моделей, а конгрессмен Нейт Моран внёс AI Incident Reporting Act, требующий сообщать Минторговли о серьёзных инцидентах в течение 48 часов.
Дальше
В каталог Vertex попала строка модели Claude Opus 5
По данным Testing Catalog, строку Claude Opus 5 заметили в каталоге квот Google Vertex после того, как research-запись мелькнула в подборщике моделей: контекст в 1 миллион токенов, режим повышенных вычислений, fallback на Opus 4.8. Цены и системной карты пока нет.
Читайте также
- Взломанным ПО в тесте OpenAI оказался Artifactory
- Второй пострадавший от агента OpenAI: аккаунт в Modal Labs
- Второй пострадавший от агента OpenAI: клиент Modal
- Сотрудники OpenAI и Anthropic просят США замедлить гонку ИИ
- Глава Hugging Face потребовал от OpenAI 100 миллионов
- AI Kill Switch Act: штраф до 20 миллионов долларов в день
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

