Anthropic открыла Cyber Jailbreak Vulnerability Disclosure Program на платформе HackerOne. Исследователи безопасности могут искать и сообщать об уязвимостях, позволяющих обходить защитные механизмы моделей.
HackerOne используется для поиска и устранения критических уязвимостей до того, как их применят злоумышленники.