Глава Irregular объяснил взломы ИИ-агентов ошибкой людей
Серию кибератак с участием ИИ-агентов от ряда ведущих разработчиков моделей, включая OpenAI и Anthropic, вызвали человеческая ошибка и нехватка времени в израильской Irregular Security, заявил Bloomberg гендиректор компании Дэн Лахав. По его словам, защитные механизмы, которые должны были работать во время тестов Irregular, не были правильно настроены.
OpenAI ещё 4 августа писала в блоге о неуточнённой «ошибке конфигурации» тестового стенда, которая «дала моделям доступ в публичный интернет».
Дальше
Прототип Anthropic доказывает, какая модель написала ответ
Около 110 токенов в секунду на одном H100 выдаёт прототип FlashProve от Anthropic, доказывая, что ответ дала именно заявленная модель. Прежняя система VerInf на той же Llama 4 Maverick справлялась примерно с 0,02. Названию модели в ответе сервиса вы верите на слово или перепроверяете?
Читайте также
- За взломами у Anthropic, OpenAI и Meta стоит Irregular
- У трёх инцидентов с ИИ нашёлся общий подрядчик
- OpenAI следит за обучаемыми моделями в реальном времени
- Axios: OpenAI и Anthropic разбирают десятки тысяч выходок ИИ
- Исследователи с Claude добрались до кода OpenAI через форум
- Дизайн-студия из Британии перепродавала Claude
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.