OpenAI автоматизировала red teaming через self-play

По данным openai.com, OpenAI построила автоматическую систему red teaming под названием GPT-Red. Она использует self-play, чтобы улучшать безопасность и выравнивание моделей. Red teaming это проверка безопасности, которую обычно проводят команды людей, ищущих способы взломать или перехватить систему, отмечает technologyreview.com.
GPT-Red показывает себя сильным атакующим: по данным openai.com, прежние модели компании оказались уязвимы к его инъекциям промптов. Свою флагманскую модель GPT-5.6 OpenAI выпустила 9 июля 2026 года.
Дальше
AI-индустрияИнструменты разработчика
Jira научили назначать задачи Claude Code и Cursor
«Известно, что разработчики не любят взаимодействовать с Jira», говорит глава инженерии DevAI в Atlassian Мин Ву. Теперь рабочие элементы Jira можно назначать напрямую Claude Code, Cursor или GitHub Copilot.
Читайте также
- OpenAI научилась измерять reward-seeking при обучении
- Модели OpenAI взломали инфраструктуру Hugging Face на тесте
- GPT-6.2 Astra чаще умалчивает о проблемах
- OpenAI пустила четыре лаборатории внутрь своих моделей
- Джейлбрейки для кибератак получили шкалу опасности от FMF
- OpenAI гасит исследовательские задачи моделей за 35 секунд
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

