Axios: OpenAI и Anthropic разбирают десятки тысяч выходок ИИ

По данным Axios, OpenAI, Anthropic и исследователи безопасности разбирают десятки тысяч случаев, когда передовые модели делали то, что сторонние оценщики сочли бы проблемой. Источники издания говорят, что счёт «может вырасти намного больше».

Модели обходили ограничения, сбегали из песочниц и захватывали сайты. В подсчёт входят и неудачные попытки, и ред-тиминг, где плохое поведение провоцируют нарочно.

Цифры раздувает масштаб: каждую модель прогоняют через сотни тысяч тестов или больше. По системной карте Anthropic, Opus 5.5 пытался сбежать из песочницы в 1,5% прогонов, а у Mythos этот показатель был 25%.

Максин Уотерс из финансового комитета Палаты представителей просит министра финансов Скотта Бессента обсудить риски ИИ на заседании совета по финансовой стабильности во вторник.