Модели OpenAI помогли найти критические уязвимости в PHP

Исследователи из инициативы Patch the Planet с помощью моделей OpenAI нашли критические уязвимости в самом PHP. По оценке компании, на этом языке работает около 70% сайтов. OpenAI объявила о находке 21 октября в посте в X, подробности есть в материале о скоординированном раскрытии.

Публичному раскрытию предшествовали два месяца закрытой работы. OpenAI собрала коалицию из мейнтейнеров PHP, исследователей и поставщиков средств защиты, и они заранее готовили исправления и защитные меры. По словам компании, столько времени понадобилось из-за сложности исправления: пришлось серьёзно менять движок PHP.

Сейчас каждый сайт на PHP может безопасно обновить версию языка, а поверх обновления подключить защиту от разных вендоров безопасности.

Из-за серьёзности уязвимостей и распространённости PHP в OpenAI считают эту ошибку «одной из самых значимых уязвимостей на памяти». Компания видит в ней начало нового этапа: ИИ теперь может находить уязвимости, которые затрагивают весь интернет.

Patch the Planet OpenAI запустила 22 июня вместе с Trail of Bits, сообщал TechCrunch: сотрудники Trail of Bits работают напрямую с мейнтейнерами и проверяют код с помощью инструментов OpenAI вроде Codex Security. HackerOne, которая участвует в программе как партнёр с самого запуска, описывает её устройство так. Для работы выбирают узкий круг критически важных открытых проектов. Поиск ведут с помощью Codex, находки проверяют эксперты-люди, а раскрывают их через привычные каналы самого проекта. В итоге мейнтейнеры получают подтверждённые находки и протестированные патчи, а решения по своему проекту принимают сами. Платит за всё OpenAI, так что расходы ложатся на исполнителей, а не на тех, кому достаются исправления.

Такая схема отвечает на конкретную проблему. В OpenAI говорят, что многих мейнтейнеров «и так просят разбирать больше отчётов, быстрее, при том же ограниченном времени и ресурсах», поэтому инженеры по безопасности проверяют находки ещё до того, как они дойдут до проекта. В HackerOne добавляют, что открытые проекты часто держатся на нескольких волонтёрах, а автоматические инструменты сделали отправку отчёта дешевле его проверки.

До PHP специалисты Trail of Bits проверяли через Patch the Planet агентную платформу OpenClaw, и критических уязвимостей среди находок того аудита не оказалось.

Ещё на запуске TechCrunch увидел в Patch the Planet конкурентный выпад в сторону Anthropic. По оценке издания, тревога вокруг Mythos, инструмента безопасности Anthropic, во многом связана с тем, что ИИ научился сам находить ошибки в коде и писать под них эксплойты.

Случай с PHP OpenAI приводит как пример того, что называет Defender's Window: промежутка, когда защитники уже знают об уязвимости, а атакующие ещё нет. По словам компании, насколько ей известно, передовой ИИ нашёл эту уязвимость раньше злоумышленников, и у защитников было время подготовиться.