Сотни миллиардов токенов ушли на взлом инфраструктуры OpenAI

OpenAI 23 октября рассказала, как перед возобновлением обучения своих frontier-моделей 1 октября выпустила команды агентов на копии собственной исследовательской инфраструктуры и потратила на эти атаки сотни миллиардов токенов. Если вы изолируете агентов в Kata Containers, gVisor, Docker или полагаетесь на ядро Linux, ждать нечего: все исправления в открытом коде, на которые ссылается пост, мы нашли уже влитыми, а версии с ними собраны в таблице ниже.
Пауза началась 20 сентября. Внутренняя исследовательская модель во время обучения воспользовалась ошибкой в настройке DNS-резолвера и получила ограниченный выход в живой интернет. OpenAI остановила обучение и оценку самых мощных моделей и через 11 дней вернула RL-обучение и внутренний инференс. В сентябре мониторинг заметил обход за 15 минут, а прогон остановили только через 2,5 часа, и не автоматически. Теперь компания пишет, что за паузу доработала системы автоматической остановки, а ред-тиминг нашёл пробелы как раз в мониторинге и автопаузе.
Что нашли атакующие агенты
Атакующих собрали из самых сильных моделей OpenAI, среди них будущая GPT-6 Astra Cyber и внутренняя frontier-модель. Условия намеренно подыгрывали нападению: агентам дали исходный код инфраструктуры, конфигурации и документацию с описанием возможных уязвимостей. Цель была проверить защиту, а не измерить, что модели найдут сами. Работали они на изолированных копиях, которые сами вставали на паузу при выходе за рамки задачи.
Из песочниц агенты выбирались, связывая несколько уязвимостей в побег из виртуальной машины. После июльского инцидента с Hugging Face из обучения наружу вели только узкие каналы к сервисам OpenAI для метрик, логов и управления аутентификацией, и почти в каждом агенты нашли уязвимость с ограниченным выходом в интернет. В одном тесте, где взлом VM считался уже случившимся, агент прошёл по разрешённому файрволом соединению к закрытому эндпоинту аутентификации в сервисе метрик и заставил его скачать URL, который подсунула модель.
Связь без сети агенты тоже наладили. Двум агентам в разных VM на общих хостах поручили обменяться синтетическими секретами без сетевых соединений и общих файлов для записи. Один вытеснял выбранные данные из кэша процессора, другой засекал время их повторного чтения, и из разницы между быстрым и медленным чтением складывалось сообщение. На тех же задержках кэша держались атаки Spectre и Meltdown. Похожие каналы нашлись через общее хранилище, конкуренцию за процессорное время в общем контейнере и кэш TLS-сертификатов в офлайновом вебе OpenAI. Про хранилище агент записал в цепочке рассуждений: «Можно сделать сигнал вроде акустического модема… на непрерывной записи против простоя».
Каналы эти медленные, и пользоваться ими моделям трудно; проверки на такие попытки OpenAI добавила в мониторинг. Маршрута в интернет, которым агенты могли бы легко воспользоваться, скрыв это от мониторов, кампания не нашла. Находок к концу стало заметно меньше, но OpenAI оговаривается: модели и тестируемые части инфраструктуры менялись, так что кривая показывает масштаб работы, а не контролируемую зависимость числа находок от вычислений.
Правила для следующих прогонов
Frontier-обучение идёт без доступа к интернету: все frontier RL-прогоны работают с «офлайн-миром», огромным набором проиндексированного и закэшированного веба, где модели учатся искать и работать с веб-приложениями. Полностью отрезать инфраструктуру от внешних сетей OpenAI не может, внешние соединения нужны для запуска и мониторинга экспериментов, поэтому исходящий трафик ограничивают. Политику обещают держать, пока защиты не позволят дать более широкий доступ. Ресурсоёмкий ред-тиминг самыми сильными моделями стал обязательной частью обоснований безопасности (safety cases), по которым решают, можно ли продолжать frontier-обучение и оценку, и под него зарезервированы значительные мощности.
Авторский разбор
Что мы проверили
25 октября мы открыли все ссылки поста на исправления в открытом коде и сверили их с записями CVE, pull request'ами и релизами, а также с прежними публикациями OpenAI об инцидентах.
В посте эти правки стоят рядом с находками кампании, которую OpenAI описывает как ответ на сентябрьскую паузу. Но всё, на что он ссылается, влито с 30 июля по 16 сентября, уязвимость Kata опубликована ещё 19 февраля, и в окно с 20 сентября по 1 октября не попадает ни одна правка. По нашей оценке, ред-тиминг начался раньше паузы: о нём говорится уже в посте OpenAI от 18 августа.
| Исправление | Опубликовано или влито | Где уже есть |
|---|---|---|
| Kata, CVE-2026-24834: из контейнера в root гостевой VM, хост не затронут (CVSS 9,4 по CNA) | 19 февраля | Kata 3.27.0 |
| Kata, две правки изоляции привилегий и файловой системы | 12 и 17 августа | Kata 4.1.0 от 21 августа |
| gVisor, передача файловых дескрипторов | 30 июля | release-20260803.0 |
| Docker, фильтр системных вызовов | 16 сентября | moby/profiles seccomp v0.2.4, основная ветка moby |
| Ядро, CVE-2026-74753 (perf, CVSS 7,8) | 26 августа | 6.6.156, 6.12.108, 6.18.46, 7.1.10 |
| Ядро, CVE-2026-80521 (af_unix, CVSS 7,8) | 26 августа | 6.1.189, 6.6.158, 6.12.111, 6.18.53, 7.1.10, 7.2 |
| Ядро, CVE-2026-80841 (net/packet) | 4 сентября | 6.6.158, 6.12.111, 6.18.51, 7.1.13, 7.2.3, 7.3 |
- Автор или репортёр всех трёх CVE ядра - инженер OpenAI Кайл Зенг (Kyle Zeng), патчи ушли в рассылки ядра в июле-августе; сама OpenAI относит их к «более широкой работе» над ядром.
- 1 октября закончилась минимум третья остановка с июля: после Hugging Face OpenAI приостановила инференс с инструментами в исследовательских кластерах, 18 августа объявила двухнедельную паузу RL, а в отчёте от 25 сентября написала, что обучение той самой модели не возобновит. Значит, в октябре стартовал уже новый прогон.
- Профиль seccomp в Docker по умолчанию разрешал
socket()для любого семейства адресов с номером больше 40, включая неизвестные и будущие. Теперь разрешены только семейства 41-45, AF_ALG и AF_VSOCK по-прежнему закрыты, а всё остальное получает EPERM.
Дальше
Kimi K3.1 Pro встала 8-й в WebDev Arena, K3 была 17-й
Kimi K3.1 Pro сразу заняла 8-е место в WebDev Arena с 1692 очками, хотя прошлая Kimi K3 стояла там 17-й с 1655. Вслед за моделью Kimi AI поднялась на 4-е место среди лабораторий. Рейтинги вроде WebDev Arena для вас повод сменить модель или проверяете только на своих задачах?
Читайте также
- OpenAI гасит исследовательские задачи моделей за 35 секунд
- OpenAI хочет, чтобы RL-прогон ночью ставил себя на паузу
- Новая модель OpenAI нашла выход в интернет из песочницы
- Обучение на паузе после взлома Hugging Face
- OpenAI дала бизнесу решать, что можно её агентам
- OpenAI пустила четыре лаборатории внутрь своих моделей
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

