Astra первой прошла критический порог по кибербезопасности

OpenAI 1 сентября объявила, что Astra стала её первой моделью, которая достигла уровня Critical по киберспособностям в Preparedness Framework. Так называется внутренняя шкала, по которой компания оценивает риски своих моделей. В публикации OpenAI «Path to Astra» сказано, что выпускать Astra будут с усиленными мерами защиты.

Подробности оценки приводит Testing Catalog. По его сведениям, во время проверки Astra нашла две новые zero-day уязвимости и превратила их в рабочие цепочки эксплойтов. Zero-day - уязвимость, о которой разработчик ПО ещё не знает, а в цепочке несколько таких дыр связаны так, чтобы атака дошла до цели.

Там же говорится, что на ExploitBench Astra набрала 100%. OpenAI, как утверждает Testing Catalog, собрала более сложный внутренний вариант теста, «ExploitBench - Internal Port»: в нём 20 уязвимостей высокой опасности в V8, JavaScript-движке Chrome, и все они раскрыты сравнительно недавно. На этом тесте Astra показала «гораздо более высокие показатели выполнения произвольного кода», чем GPT-5.6 Sol. Выполнение произвольного кода означает, что атакующий запускает в чужом процессе собственный код, и для эксплойта браузерного движка это обычно главная цель.

Месяц назад формулировка была осторожнее. В начале августа OpenAI не могла исключить критический уровень у Astra, а прежние модели, включая GPT-5.6 Sol, тогда оценивались на уровень High. Critical в терминах фреймворка означает, что модель сама, без человека, находит и создаёт рабочие zero-day эксплойты любой степени опасности во многих защищённых реальных системах. Позже в августе компания остановила часть внутренних работ с Astra и ввела для моделей с высоким уровнем способностей изолированные тестовые среды и дополнительный мониторинг.

Как сообщает CNBC, в OpenAI говорят, что Astra находит ранее неизвестные уязвимости и эксплуатирует их без пошаговых указаний со стороны людей. Там же сказано, что компания по-прежнему планирует сделать Astra доступной «скоро».

Киберспособности модели при выпуске ограничат, утверждает Testing Catalog.