Критический баг в ChatGPT у OpenAI стоит до 30 000 долларов

OpenAI 2 ноября подняла выплаты по программе bug bounty и объявила следующий внутренний спринт по безопасности, в котором её защиту вместе с командами компании будут проверять исследователи Cathedral, говорится в посте OpenAI. Если вы уже отправили отчёт, а награду по нему ещё не назначили, его оценят по новым диапазонам, а за выплаты последних 30 дней до объявления OpenAI доплатит разницу, когда находка по новым правилам стоила бы больше.

Разницу в этом случае считают по сумме базовой награды и бонуса лояльности. Середина диапазонов наград за уязвимости среднего, высокого и критического уровня выросла в среднем более чем вчетверо.

Сколько стоит находка

Критическая уязвимость в основных продуктах, ChatGPT, Codex или API Platform, теперь оценивается до 30 000 долларов. Потолок для исключительных критических находок остаётся прежним, 100 000 долларов, но с бонусами выплата доходит до 172 000. До этих 100 000 OpenAI поднимала максимум в прошлый раз, с 20 000 долларов, и сверх базового потолка сейчас растут только множители.

В примерах самой OpenAI захват аккаунта ChatGPT в один клик раньше принёс 6500 долларов. По новой схеме база в 30 000 с множителями за качество отчёта, приоритетную кампанию и уровень лояльности 31337 даёт 51 577 долларов. Находка среднего уровня (участник проекта с правами только на чтение может загружать файлы в Project) стоила 750 долларов, теперь 2415. Все сценарии и прежние выплаты компания называет иллюстративными.

За что доплачивают

Множитель за качество получает отчёт с надёжным proof of concept: он изолирует баг, показывает, когда его можно эксплуатировать, и демонстрирует последствия. В OpenAI объясняют, что такой отчёт даёт фору при подготовке исправления; в примерах множитель равен 1,15.

Бонус лояльности устроен как пятиуровневая система с растущими надбавками для тех, кто регулярно присылает находки. В примерах уровни Bronze, Gold и 31337 дают множители 1,05, 1,10 и 1,15. Приоритетные кампании будут короткими: под только что запущенные функции выделяют отдельные бонусные пулы, и в примере такая кампания добавляет множитель 1,30.

Программа работает на Bugcrowd с апреля 2023 года. Когда OpenAI поднимала потолок до 100 000 долларов, Security Land отмечал, что джейлбрейки, приёмы, которые заставляют ChatGPT обойти ограничения безопасности, в зону программы не входят.

Спринт с Cathedral

Исследователи Cathedral (в посте OpenAI в X она названа Cathedral Systems) будут вместе с командами компании атаковать её защиту с помощью моделей OpenAI. На прошлый спринт OpenAI выделила 25% своих продуктовых инженеров: с Codex они разбирали находки, воспроизводили уязвимости в изолированных средах и готовили патчи на ревью. В сентябре компания говорила о 250 с лишним людях, укреплявших защиту сотен её систем, и о цикле Defense Factory, где агенты находят уязвимости, подтверждают их и проверяют исправления. Bug bounty, по словам OpenAI, его дополняет: внешние исследователи должны находить то, что пропустило внутреннее тестирование.

Самые сильные модели OpenAI доступны клиентам Daybreak, а на субсидированный доступ для защитников, которые охраняют критически важные сервисы и цифровую инфраструктуру, компания выделила 1 миллиард долларов на шесть месяцев. Архитектуру и уроки прошлого спринта OpenAI публикует вместе со своим планом поддержки киберзащитников в индустрии и госсекторе.

20-21 ноября команда безопасности OpenAI будет на конференции PROMPT2PWN в Окленде, где исследователи смогут проверять цели вживую.