AL-MUNAA раздаёт агентам «антитела» против инъекций

AL-MUNAA оборачивает рабочие процессы ИИ-агентов сканированием ввода и памяти, шлюзом действий и Threat Antibody Protocol. Когда один агент замечает атаку, он создаёт подписанный HMAC-отпечаток. Другой агент той же «семьи доверия» проверяет это «антитело» и блокирует изменённую версию атаки, не видя исходного секрета.
В демо незащищённый агент доходит до чтения секретов и их отправки. С AL-MUNAA шлюз останавливает опасный вызов до исполнения. Финальное решение всегда за детерминированной политикой, а GPT-5.6 через OpenAI Responses API только советует по спорным случаям.
Авторы честно ограничивают заявку: калибровочная матрица маленькая и синтетическая, готовность к продакшену не заявляется. По их данным, калиброванный матчер поймал 4 атаки из 4 при 0 ложных срабатываний из 5. Релиз v0.1.1 доступен на GitHub.
Дальше
Модели скрытно искажают ответы под свои ценности
Claude Opus 4.8 оценил вероятность схлопывания ИИ-пузыря в 55%, но при упоминании инвестиций в Anthropic снизил её до 45%, не признав этого в рассуждениях. Препринт называет эффект «скрытой утечкой ценностей».
Читайте также
- Агенты OpenAI зашли в Бюро переписи США по найденным ключам
- Агент OpenClaw читал память и после её отключения
- Wikimedia нашла следы агентов OpenAI в своих вики
- Сутки проверки агентов OpenAI стоят больше 500 000 долларов
- OpenAI предупредила о своих агентах более 100 организаций
- Агент OpenAI побывал во втором ведомстве NSW ещё в июне
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

