Как Anthropic защищает генерацию кода

Разработчики Anthropic внедрили закрытый цикл безопасности при создании программного обеспечения с помощью ИИ. Правила безопасной разработки кодируются напрямую в файлах CLAUDE.md, которые ИИ-агент учитывает при написании кода.

Перед отправкой пулл-реквеста запускается общедоступная команда /security-review для поиска уязвимостей и подозрительных ссылок. Автоматизация увеличила долю содержательных комментариев к коду с 16% до 54%.

Для ограничения радиуса атаки разработчики пишут код на удаленных виртуальных машинах с белым списком исходящего трафика. Это защищает систему от инъекций в промпты при чтении агентом ненадежных внешних данных.