Перейти к содержанию

OpenAI

OpenAI рассказала, как устроена песочница Codex

3 мин чтения

Текст написан ИИ-моделью по источникам, на которые ведут ссылки, и сверен с ними второй моделью. Как мы работаем

Всё о теме: OpenAI: модели и продукты →
Изображение: openai.com

OpenAI подробно описала в своём блоге, как устроена песочница Codex. Это механизм, который ограничивает команды, запускаемые агентом на вашем компьютере. Главное решение такое: Codex не уносит работу в Docker или виртуальную машину, а выполняет команды прямо в вашей системе. Границы по файлам и сети ставят средства самой macOS, Linux или Windows, а пользователь задаёт их в профилях разрешений.

Codex - агент OpenAI для программирования: он читает репозиторий, правит файлы и запускает команды в терминале. Запуск команд компания называет одним из самых частых и потенциально рискованных его действий. Песочница уже попадала в новости: исследователь нашёл два способа выполнить команды вне песочницы, просто дав Codex разобрать вредоносный репозиторий.

Что разрешено по умолчанию

OpenAI говорит, что выбирает осторожные настройки, при которых агент всё ещё может делать полезную работу. В стандартном профиле :workspace Codex свободно пишет в папку проекта, но служебные папки .git и .codex для него открыты только на чтение. Так он правит код, не спрашивая разрешения на каждое изменение, но не может сам поменять свои настройки или подложить хуки Git, то есть скрипты, которые Git запускает автоматически.

Читать агент может почти всё, на что хватает прав у пользователя: компиляторам и инструментам сборки нужны библиотеки и настройки за пределами проекта. Обратную сторону компания признаёт сама: файлы с API-ключами в других местах тоже остаются читаемыми. Сеть выключена. Это не даёт отправить прочитанные данные наружу, но мешает и скачать зависимости, для этого нужен отдельный доступ.

Почему не Docker

Ноутбук разработчика, пишет OpenAI, обычно собран под себя, и повторить такое окружение в контейнере непросто. Пример компании: если запереть Codex в Docker на Mac, он не сможет запустить ни инструменты сборки iOS-приложения, ни симулятор iPhone. Поэтому OpenAI опирается на встроенные механизмы каждой системы: Seatbelt на macOS, bubblewrap и seccomp на Linux. Ограничения наследуют все процессы, которые порождает команда, даже те, что переживут её саму.

С macOS есть тонкость: Apple считает инструмент запуска Seatbelt устаревшим и не документирует его язык для сторонних разработчиков. Но на Seatbelt по-прежнему держатся, например, Google Chrome и Chromium, и OpenAI собирается пользоваться им и дальше.

Как настроить под себя

Профили задаются в файле config.toml: для каждой папки можно разрешить чтение, запись или закрыть доступ совсем. С сетью три варианта: выключить её, открыть полностью или пустить через прокси со списком разрешённых и запрещённых доменов. Если команда обращается к домену, которого в списке нет, Codex спросит пользователя или передаст вопрос автоматической проверке auto-review.

Компании могут ограничить, какие профили доступны сотрудникам, например запретить профиль :danger-full-access с полным доступом. А команда codex sandbox запускает под выбранным профилем любую программу. Так OpenAI советует проверять сами профили и запирать MCP-серверы, внешние инструменты, которые подключают к агенту: Codex сам их в песочницу не помещает, и они работают с правами пользователя.

Чего песочница не закрывает

Пример самой OpenAI: агент может подложить вредоносный код в локально установленный пакет, скажем в копию форматировщика Prettier в папке node_modules. Git эту папку часто игнорирует, так что правка не всплывёт. Если редактор запускает этот Prettier при сохранении файла, код выполнится уже вне песочницы. Широкие правила для доменов или доступ к DNS тоже оставляют путь для утечки данных. А запреты по шаблону имён Codex превращает в список файлов перед запуском команды, и файлы, появившиеся позже, под запрет не попадают.

Поэтому компания называет песочницу лишь одним слоем защиты: она ограничивает, до чего дотягиваются команды, а обучение модели должно помогать ей пользоваться этим доступом так, как хочет пользователь.

Что дальше

На Windows OpenAI заменяет свою песочницу новой, на основе библиотеки MXC от Microsoft. Нынешняя требует прав администратора для настройки, медленно проверяет и выставляет права доступа к файлам и оставляет на компьютере следы: правила брандмауэра, отдельных пользователей, служебные файлы. На совместимых устройствах с Windows Codex уже поддерживает песочницу на MXC.

ClaudeAnthropic

Amazon и Google получат почти 30% Anthropic

Amazon вкладывался в Anthropic в 2023-2024 годах, когда та жила в тени OpenAI, и получил право на акции по цене около 2,09 и 5,05 доллара. После IPO у него будет 14,7%, а если обменять всё, то 23,8%, пишет TechCrunch. Важно ли вам, кто владеет компанией, чьим ИИ вы пользуетесь?

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите, чтобы оставить комментарий. Он появится после модерации.