Перейти к содержанию

Безопасность ИИ

Агент OpenClaw читал память и после её отключения

3 мин чтения

Текст написан ИИ-моделью по источникам, на которые ведут ссылки, и сверен с ними второй моделью. Как мы работаем

Всё о теме: OpenAI: модели и продукты →
Изображение: openclaw.ai

Trail of Bits нашла в OpenClaw ошибку: если оператор отключал агенту доступ к памяти посреди прогона, уже запущенная задача продолжала читать память до самого конца, потому что разрешение проверялось только на старте. Эта находка вошла в отчёт об аудите, который OpenClaw опубликовала в своём блоге 5 октября. Все исправления вошли в стабильные релизы 2026.8.1 и 2026.7.33 LTS, поэтому тем, кто держит агента на версии до 2026.8.1 или на LTS-ветке ниже 2026.7.33, они придут только с обновлением.

Аудит прошёл по программе OpenAI Patch the Planet, где поиск уязвимостей с помощью ИИ совмещают с ручной проверкой. Trail of Bits искала проблемы и готовила исправления в рабочих процессах с Codex, затем люди перепроверяли каждую находку, и только после этого она уходила в OpenClaw через закрытые GitHub Security Advisories. Команда OpenClaw сверяла отчёты со своей моделью доверия и историей релизов. Проверяли базовые разрешения и то, как OpenClaw обращается с данными пользователей в разных функциях.

Всего пришло 27 закрытых отчётов и 3 отдельных pull request с усилением защиты. У 24 отчётов есть оценка серьёзности: критических ноль, высоких 2, средних 16, низких 6. Подтверждёнными уязвимостями из этих 24 признали 23, но часть закрыли без публикации: их исправили раньше, чем код попал в стабильный релиз, так что до пользователей стабильных версий они не дошли. Ещё один отчёт описывал уязвимость, которую успели исправить до его отправки.

Оставшиеся 3 отчёта отнесли к defense-in-depth, дополнительным слоям защиты поверх основных. Оценок серьёзности они не получили: описанные в них проблемы не пересекают задокументированную границу доверия. Все находки, по которым можно было что-то сделать, исправлены, а все 3 pull request приняты.

Что повторялось в отчётах

Функции были разные, а ошибки похожие. Чаще всего права терялись между шагами. Запрос приходил в OpenClaw с ограниченным доступом и запускал следующую задачу, которая этих ограничений уже не несла. Иногда исправление сводилось к тому, чтобы передать исходные права дальше. В других случаях порождённой задаче доступ оказался вообще не нужен: генератору имён файлов, например, инструменты ни к чему. Теперь в OpenClaw действует правило: последующая работа не получает доступ просто потому, что потеряла контекст исходного запроса.

Ради обратной совместимости у одной и той же сущности в OpenClaw бывает несколько имён, и старые конфигурации продолжают работать. Проблемы начинались, когда проверка безопасности видела одно имя, а система потом использовала другое. Так случалось и с идентификаторами пользователей, и с названиями функций. Исправление: сначала точно определить, что система будет использовать, и только потом применять к этому политику.

Несколько отчётов описывали разрыв между тем, что OpenClaw проверила, и тем, что она потом использовала. Проверка архива видела только часть содержимого, а распаковывалось всё. В другом случае путь к файлу менялся уже после того, как OpenClaw его одобрила. Теперь одобрение привязано к конкретному файлу, идентичности или действию, и если после проверки что-то меняется, она проходит заново.

Ошибка с памятью из той же серии. Некоторые функции проверяли разрешение при запуске, но не в момент работы, и отключение функции в конфигурации не всегда доходило до задач, которые уже выполнялись или лежали в кэше. Проверки перенесли ближе к моменту использования: инструменты сверяются с текущей настройкой при каждом действии, а в долгих задачах OpenClaw может перепроверить права ещё раз перед тем, как вернуть результат. Ошибка затрагивала только прогоны, которым доступ уже выдали.

Что OpenClaw вынесла из аудита

Свои выводы команда формулирует как правила для агента, который может работать над запросом долго. Права и идентичность должны сопровождать запрос всё время, пока OpenClaw над ним работает. Проверка должна относиться ровно к тому ресурсу, который будет использован. Отключение доступа должно действовать и на уже запущенную работу.

Последнее правило касается тестов: по выводу команды, они должны доходить до настоящей границы безопасности и не останавливаться на вспомогательной функции, в которой ошибка случайно проявилась.

OpenAIOpenAI

Wikimedia нашла следы агентов OpenAI в своих вики

«Мы не должны позволить этому стать „новой нормой“», пишет Wikimedia Foundation про агентов OpenAI. По оценке фонда, их миллионы запросов к API, возможно, способствовали частичному сбою Wikidata Query Service в мае.

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите, чтобы оставить комментарий. Он появится после модерации.