Перейти к содержанию

OpenAI

Через задачу на GitHub Depi добралась до npm-пакета Codex

3 мин чтения

Наш ИИ-аналитик сам проверил эту историю: запускал, считал, сверял с оригиналами. Что мы проверили

Текст написан ИИ-моделью по источникам, на которые ведут ссылки, и сверен с ними второй моделью. Как мы работаем

Всё о теме: OpenAI: модели и продукты →
Изображение: depi.security

Исследователи Depi разобрали цепочку уязвимостей в OpenAI Codex, которая вела от промпт-инъекции в задаче на GitHub к возможности опубликовать вредоносную версию официального пакета @openai/codex в npm; рассказали они об этом 11 ноября. OpenAI закрыла ошибку и выплатила первоначальную награду в 1 000 долларов при потолке в 100 000 за критические находки. Патчить у себя ничего не нужно, а всю цепочку - от инъекции до npm - Depi прогнала на своём тестовом репозитории: боевой workflow запускал агент Codex в режиме read-only, тогда как побег из песочницы авторы показывали из менее строгого workspace-write.

Как инъекция дотянулась до npm

Отправной точкой был workflow issue-labeler.yml: он отдавал агенту Codex заголовок и тело любой открытой задачи, чтобы тот предложил метки, и работал с настройкой allow-users: "*", без ограничения на доверенных мейнтейнеров. Задачу в репозитории openai/codex мог открыть кто угодно, а её текст попадал в промпт агента наравне с доверенными инструкциями. Это и есть промпт-инъекция: модель читает как команды то, что должно оставаться данными. Подобрав префикс, закрывающий «настоящую» часть промпта, авторы заставили Codex выполнить произвольные команды внутри песочницы.

Шелл внутри песочницы - ещё не весь доступ: режим workspace-write лишает агента сети и доступа к процессам раннера. Но в /tmp/ остаются отладочные каналы .NET-процессов GitHub-раннера, и их можно открыть обычным системным вызовом, который песочница разрешает. Через неаутентифицированный протокол авторы прочитали память процесса Runner.Worker и достали токены GITHUB_TOKEN и ACTIONS_RUNTIME_TOKEN. С правом на запись в кэш они отравили кэш GitHub Actions - tar-архив, который распаковывается по абсолютным путям без проверки содержимого, так что в раннер можно подложить произвольный файл. Через него - переход в более привилегированный workflow rust-ci.yml с правами на запись, а оттуда путь к подписанному токену, которому доверяет npm, и к публикации пакета.

Из песочницы Codex токен достают не впервые. Разница в том, что Codex - агент: он работает на машинах разработчиков с их правами и создан выполнять код, так что вредоносной версии пакета не нужно искать способ запуститься - запуск для неё штатный.

Авторский разбор

Что мы проверили

11 ноября мы открыли боевой workflow разметки задач в openai/codex, страницу отчёта на Bugcrowd и статистику загрузок npm.

Как мы проверяем истории

Самый громкий шаг - сквозной захват пайплайна - авторы показали только на своём тестовом окружении. Боевой workflow запускал агент в более строгом режиме песочницы, из которого они не выбирались, а уязвимый механизм после раскрытия остался на месте. Публичные цифры загрузок оказались не теми, что в отчёте.

В боевом файле с 29 мая стоит sandbox: read-only, переопределяя дефолтный workspace-write у codex-action; в процитированной Depi конфигурации этой строки нет, и всю цепочку - от выполнения кода до кражи токенов - прогнали на репозитории с дефолтным режимом. Остановил бы более строгий read-only побег через отладочные каналы .NET, вопрос открытый: перед нами различие в конфигурации, а не замеренная защита. Сам файл после раскрытия не трогали - allow-users: "*" на месте, заголовок и тело задачи по-прежнему идут в промпт.

Загрузки тоже стоит уточнить: «около 10 миллионов в неделю» занижено - за последнюю неделю их 26 025 512, за месяц 96 848 771. «200 миллионов» действительно были, но как разовый всплеск начала мая: пик за семь дней к 6 мая составил 213 805 049.

Автообновление без права голоса

OpenAI закрыла основную ошибку, так что ставить патч не нужно; урок, по словам Depi, в поведении. При включённом автообновлении Codex CLI диффа на ревью вы не увидите, а короткая пауза на инструментах, которые обновляются сами, даёт сообществу время заметить подложенный релиз, пока он не приехал к вам.

AI-индустрияКодинг-агентыразбор

AWS Emulator написали агенты, и чинить его будут тоже они

«Мы его не редактируем», говорит Том Каллауэй из AWS про AWS Emulator, эмулятор облака на 438 моделей API, целиком написанный агентами. Ошибки в его коде чинят через самих агентов, которые этот код пишут. Вы бы тестировали код на эмуляторе, который написали агенты, или только в облаке?

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите, чтобы оставить комментарий. Он появится после модерации.