OpenAI автоматизировала red teaming через self-play
По данным openai.com, OpenAI построила автоматическую систему red teaming под названием GPT-Red. Она использует self-play, чтобы улучшать безопасность и выравнивание моделей. Red teaming это проверка безопасности, которую обычно проводят команды людей, ищущих способы взломать или перехватить систему, отмечает technologyreview.com.
GPT-Red показывает себя сильным атакующим: по данным openai.com, прежние модели компании оказались уязвимы к его инъекциям промптов. Свою флагманскую модель GPT-5.6 OpenAI выпустила 9 июля 2026 года.
Дальше
Jira научили назначать задачи Claude Code и Cursor
«Известно, что разработчики не любят взаимодействовать с Jira», говорит глава инженерии DevAI в Atlassian Мин Ву. Теперь рабочие элементы Jira можно назначать напрямую Claude Code, Cursor или GitHub Copilot.
Читайте также
- OpenAI научилась измерять reward-seeking при обучении
- Модели OpenAI взломали инфраструктуру Hugging Face на тесте
- OpenAI впервые нашла операцию влияния пятой категории
- Агент OpenAI обошёл запрет на интернет через DNS
- OpenAI хочет, чтобы RL-прогон ночью ставил себя на паузу
- Рой агентов OpenAI сам завёл систему сбора учётных данных
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.