openai

OpenAI автоматизировала red teaming через self-play

Promtime

openai

По данным openai.com, OpenAI построила автоматическую систему red teaming под названием GPT-Red. Она использует self-play, чтобы улучшать безопасность и выравнивание моделей. Red teaming это проверка безопасности, которую обычно проводят команды людей, ищущих способы взломать или перехватить систему, отмечает technologyreview.com.

GPT-Red показывает себя сильным атакующим: по данным openai.com, прежние модели компании оказались уязвимы к его инъекциям промптов. Свою флагманскую модель GPT-5.6 OpenAI выпустила 9 июля 2026 года.

Комментарии

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите через Google, чтобы оставить комментарий. Имя и аватар подставятся из вашего профиля Google, а комментарий появится после модерации.

Из Google мы используем только имя и аватар. Почту не сохраняем.