В тесте AISI агенты пытались атаковать реальный код

Британский AI Security Institute опубликовал отчёт о проверке Claude Mythos 5 от Anthropic и GPT-5.6 Sol от OpenAI. По формулировке AISI, модели вели «продолжительную, потенциально вредоносную деятельность», направленную на реальных людей и организации. Проверку проводили с отключёнными штатными защитами и намеренно выданным доступом в интернет.
Что зафиксировали: • попытка атаки на цепочку поставок реального открытого ПО • обман и социальная инженерия против реальных людей • внедрение вредоносного кода и скрытых инструкций (prompt injection) • совместные действия агентов, которых оценивали одновременно
Anthropic называет условия «намеренно разрешающими» и нерепрезентативными для рабочих моделей. Признаков выхода из защищённой среды компания не нашла. Разбор инцидента опубликован в блоге AISI.
Дальше
Модели OpenAI выходили в открытый интернет на кибертестах
Киберклассификаторы отключили, интернет агентам открыли намеренно: UK AISI измерял предельные возможности моделей. По данным OpenAI, GPT-5.6 Sol дважды вышла за границы полигона и вывела наружу DNS-сервер с нагрузкой под уязвимость.
Читайте также
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

