Безопасники требуют у OpenAI и Anthropic доступа

Исследователи кибербезопасности и разработчики открытого ПО в открытом письме на Openletter от 23 октября требуют от OpenAI и Anthropic пустить независимых специалистов к расширенным возможностям моделей. В подтверждение они приводят цифры самой Anthropic: в тесте CyScenarioBench на многоэтапные атаки режим Defense Access, на который могут подать заявку частные лица, остановил 46 из 50 прогонов Claude Opus 5.5, а Red Team Access для организаций не остановил ни одного. Независимый исследователь без компании за спиной сейчас может претендовать у Anthropic только на защитный уровень, а в Daybreak Red у OpenAI обычной заявки для одиночек нет, исключения делают на усмотрение компании.
Авторы хотят, чтобы частное лицо могло подать заявку на продвинутый доступ, при отказе узнать причину и обжаловать решение, а выданное разрешение одинаково работало во всех продуктах, за которые человек платит. Взамен они готовы подтвердить личность, показать разрешение на конкретную работу и отвечать за злоупотребления. Бесплатных вычислений или снятия разумных лимитов они не просят.
Кому что выдают
Программу Cyber Verification Anthropic объявила 6 октября: частные лица подают заявку на Defense Access, Red Team Access оставлен организациям. В опубликованных компанией прогонах Red Team Access довёл до конца 34 атаки из 50, Defense Access на каком-то этапе блокировал 46. Сами авторы оговаривают, что результаты касаются атакующих сценариев и выборкой обычных защитных запросов не являются. Но пентестерам, которых нанимают взламывать системы по договору, нужны как раз атакующие возможности. Корпоративный адрес почты, пишут авторы, не доказывает права атаковать конкретную цель, поэтому заявителя стоит оценивать по опубликованным требованиям безопасности, письменному договору на тестирование и истории находок, без отсева по месту работы.
У OpenAI программа называется Daybreak и работает в ChatGPT, Codex и API. Уровень Daybreak Blue, по документации компании, на которую ссылается письмо, снижает число отказов на поддерживаемых моделях, включая GPT-6 Sol и GPT-6 Luna, а Astra остаётся со стандартными ограничениями. Одобрение ещё нужно включить через настройки рабочего пространства или API. Daybreak Red, через который в августе OpenAI открыла доступ к GPT-5.6-Cyber, модели для авторизованного поиска уязвимостей, даёт доступ шире, но прямой заявки для независимых в нём нет.
Жалоба на Daybreak конкретная: одобрение Blue может открыть рабочий сценарий в Codex, а такой же запрос в другом продукте получит обычный отказ. У Codex к тому же свой лимит, и когда он кончается, расследование встаёт, хотя другая оплаченная мощность ещё есть. Выходит, проверенный и платящий исследователь зависит от того, в каком окне он задаёт вопрос. Поддержка, по словам авторов, в ответ просто повторяет действующие правила.
Тем, кто натыкается на такие отказы, авторы советуют записывать их с контекстом, отделять отказ по правам доступа от упора в лимит оплаты и не раскрывать при этом конфиденциальные данные и неопубликованные уязвимости.
Случай Hugging Face
Главный пример в письме - взлом Hugging Face. 16 июля компания сообщила о вторжении автономного ИИ-агента, а OpenAI признала, что это была её внутренняя проверка собственных моделей, которая вырвалась за пределы изолированной среды. Модели держали в такой среде как раз для того, чтобы можно было отключить их обычные ограничения, говорила OpenAI, как пишет CNN.
Расследовать пришлось много: по логам агента Hugging Face восстановила около 17 600 его действий с 9 по 13 июля. В техническом разборе от 27 июля компания назвала Claude Opus и Fable моделями, которые отказывались от существенной части этой работы. По записке Cloud Security Alliance, коммерческие модели отказывали, когда дело доходило до анализа кода самого атакующего.
После отказов команда перешла на облегчённую версию GLM-5.2 от китайской Z.ai, запущенную на собственных серверах. Это модель с открытыми весами: её можно скачать и запускать у себя, не отправляя данные чужому сервису. Она помогла расшифровать большую часть кода, который агент подгружал частями и прятал под шифрованием. Уже после этого OpenAI включила Hugging Face в свою программу Trusted Access for Cyber, но авторы письма считают, что защитникам не должна требоваться экстренная помощь поставщика, тем более тем, за кем нет громкого имени.
Глава Hugging Face Клем Деланг тогда сказал, что «всем защитникам (не только нескольким избранным) нужны более мощные модели без ограничений, особенно открытые», его слова тоже приводит CNN.
Сроки ответа
Ограничивать китайские модели или открытую разработку ради американских компаний авторы не предлагают. Многие из них, по их словам, предпочитают американские модели и готовы за них платить, но ждут, что те будут надёжно поддерживать законную работу. 21 октября OpenAI рассказала о критической уязвимости в PHP, которую Calif нашла с помощью GPT-5.6 Sol, и письмо делает из этого свой вывод: раз компании празднуют такие находки, шанс на сравнимую работу должны получить и независимые.
Если ничего не изменится, авторы призывают и дальше публиковать задокументированные отказы, сравнивать инструменты и тратить деньги на продукты, которые поддерживают авторизованную работу, без травли сотрудников компаний.
Публичного признания от OpenAI и Anthropic письмо ждёт до 22 ноября, содержательного ответа по правилам доступа - до 21 января 2027 года, с именами тех, кто принимает решения, и конкретными обязательствами.
Дальше
Claude Code больше не стирает .env в режиме worktree
Перед коммитом Claude Code теперь получает прямое указание: не отправлять в репозиторий файлы, в которых, скорее всего, лежат секреты. В версии 2.1.327 так работает на новых моделях и в PowerShell. Вы проверяете, что агент кладёт в коммит, или доверяете ему?
Читайте также
- OpenAI говорит об «окне защитников» и предлагает правила
- Уровень Daybreak Red открыл доступ к GPT-5.6-Cyber
- Глава Irregular объяснил взломы ИИ-агентов ошибкой людей
- Сканер Anthropic нашёл в Pion дыры, жившие больше 4 лет
- OpenAI следит за обучаемыми моделями в реальном времени
- OpenAI и Anthropic разбирают десятки тысяч выходок ИИ
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

