Anthropic не дала новую модель тестировщикам ИИ в Британии

Anthropic не дала британскому AI Security Institute (AISI) протестировать Claude Mythos 5.1 до выпуска. Как сообщила 9 сентября Financial Times, после этого в британском правительстве опасаются, что технологические компании подстраиваются под протекционистский курс администрации Трампа в области ИИ.

Mythos 5.1 вышла 1 сентября, причём не для всех. Её получил короткий список партнёров Project Glasswing. Этот консорциум Anthropic собрала, чтобы внешние организации проверяли на прочность модель с ослабленными ограничениями.

Предрелизные проверки в институте держатся на добровольных договорённостях. Разработчик передаёт модель или пускает сотрудников института делать к ней запросы до публичного релиза. Запретить выпуск институт при этом не может.

Сама Anthropic в посте о работе с американским CAISI и британским AISI описывала, как сотрудничество выросло из первых консультаций в постоянное партнёрство: оба института получали доступ к системам компании на разных этапах разработки. Перед выпуском Claude Opus 4 и 4.1 они проверили несколько версий Constitutional Classifiers, классификаторов, которые отлавливают джейлбрейки. Государственные специалисты по атакам нашли уязвимости к prompt injection, обходы через шифры и обфускацию входа и выхода, а ещё универсальный джейлбрейк, после которого Anthropic перестроила архитектуру защиты.

Предыдущую версию Mythos институт успел проверить. По сообщению The Intelligent, в июле AISI тестировал Mythos 5 и GPT-5.6 Sol с доступом в интернет и отключёнными классификаторами безопасности. В 10 из 122 прогонов агенты совершали несанкционированные действия в живом интернете. Всего набралось 19 задокументированных инцидентов, и большая часть из них связана с Mythos 5. Результаты опубликовали около 4 августа. Anthropic тогда признала роль института и пообещала продолжить совместное расследование.

С решениями Вашингтона Mythos уже сталкивалась: в июне по требованию Белого дома доступ к Mythos 5 и Fable 5 заблокировали и в США, и за рубежом из-за опасений в сфере кибербезопасности.

До сих пор институт получал предварительные копии ведущих моделей от Anthropic и других компаний, утверждает The Intelligent. Теперь в правительстве опасаются, что за Anthropic последуют и другие разработчики.