Cloudflare ищет уязвимости клиентов моделями OpenAI

Cloudflare сверяет каждую уязвимость, которую модели OpenAI находят в коде клиента, с продакшеном: активен ли затронутый маршрут, идёт ли на него подозрительный трафик и не закрывают ли его уже существующие средства защиты.

Сервис называется Vulnerability Discovery and Remediation. Как он устроен, OpenAI рассказала 21 октября в истории клиента. Сервис работает в раннем доступе в составе Cloudflare Managed Defense, а в блоге Cloudflare его называют новым сервисом, куда попадают только по приглашению. Через сеть Cloudflare проходит примерно 20% веб-трафика. Данные этого трафика, сигналы безопасности и результаты проверки компания добавляет к находкам, чтобы расставить их по приоритету.

Сканер видит код, но не трафик

Cloudflare описывает проблему так. Сканер находит уязвимость в обработчике, но не говорит, развёрнут ли этот код, обращается ли кто-нибудь к маршруту, какие события безопасности вокруг него происходят и какая защита на нём уже стоит. Находки приходится сортировать, не зная, насколько они открыты в продакшене. А их становится всё больше: большие языковые модели, по словам компании, находят слабые места во всей кодовой базе за минуты. Атакующие тоже ускоряют с помощью ИИ поиск и эксплуатацию уязвимостей, так что у защитников остаётся меньше времени.

«У традиционных команд безопасности куча полезных данных. Им просто не хватает людей и времени, чтобы с ними разобраться», - говорит Марк Андерсон, президент Cloudflare по выручке.

Поиск ведут модели OpenAI, которые Cloudflare получает через Daybreak, киберзащитную программу OpenAI. Модели изучают только тот код, к которому клиент сам дал доступ, ищут потенциальные уязвимости и проверяют доказательства для каждой находки.

Дальше подключается сеть Cloudflare. Компания видит, какие маршруты активны, сколько трафика они получают и какие события безопасности вокруг них происходят. Если клиент включил сервис вместе с Web Application Firewall (WAF, файрвол веб-приложений на границе сети), видно ещё и то, какие правила уже применены и какие атаки они блокируют. Сервис работает как с приложениями на Cloudflare Workers, так и с теми, чей трафик Cloudflare проксирует.

На выходе клиент получает два вида исправлений. Первый - патч к коду. Второй, где это уместно, - собственное правило WAF под конкретную систему: оно снижает риск, пока разработчики изучают патч. Оба предложения сначала проходят автоматические проверки, затем их смотрит команда Cloudflare, и только после этого они уходят клиенту. Что внедрять, решает сам клиент.

Часть этой конструкции Cloudflare описывала раньше. В тексте «Build your own vulnerability harness» компания рассказала о своём внутреннем конвейере, которым сканирует собственный парк систем. Он не привязан к конкретной модели, каждую находку проверяет атакой и превращает сырой ответ модели в исправления, которым инженеры могут доверять. Теперь этот конвейер назван одной из опор нового сервиса, а сам сервис переносит тот же процесс поиска на код, который клиент разрешил проверять.

Четыре разработчика, три дня

Вторая часть истории касается Codex, причём внутри самой Cloudflare. По словам Андерсона, треть сотрудников компании - разработчики, которые строят сервисы и функции платформы, и Codex пользуются все они, чтобы выпускать больше и писать код лучше. Андерсон связывает это с ростом продуктивности, качеством кода и меньшим числом ошибок, которые появляются при разработке.

Пример у него один: пересборка продукта, которую команда долго откладывала. «Мы тянули с этим, потому что у нас не было людей», - говорит Андерсон. По его оценке, работа растянулась бы на месяцы поэтапного планирования и потребовала бы «может быть, в десять раз больше разработчиков». В итоге за неё взялась команда всего из четырёх человек с Codex.

«Мы сделали это за три дня, выкатили, протестировали и потратили на токены 1 100 долларов», - рассказывает Андерсон.

Вопрос, по его словам, сместился с «Потянем ли мы это?» на «А почему бы и нет?». Встроить ИИ в повседневную разработку для Андерсона значит перестроить внутренний процесс так, чтобы машины были частью самой разработки, а не отдельным элементом.

«Прелесть автоматизации, которую дают Daybreak и Codex, в том, что черновую работу можно поручить машинам, а люди будут применять своё суждение там, где принимаются самые важные инженерные решения и решения по безопасности», - говорит Андерсон.