Как Anthropic защищает свои продукты от ошибок Claude
Anthropic опубликовала отчет о безопасности ИИ-агентов в claude.ai, Claude Code и Claude Cowork. Главный вывод разработчиков: надежная изоляция на уровне среды важнее попыток сделать саму модель абсолютно безопасной. Вероятностная природа ИИ не гарантирует защиту от сбоев.
Для каждого продукта используется своя архитектура. В claude.ai код исполняется в контейнерах gVisor на серверах компании. В Claude Code применяется локальная песочница на базе механизмов macOS и Linux. Для Claude Cowork создана полноценная виртуальная машина, которая скрывает хост-систему от агента.
Инженеры также признали прошлые ошибки. Например, злоумышленники могли обходить ограничения через разрешенные домены вроде api.anthropic.com. Для защиты от утечек пришлось внедрить специальный прокси-сервер прямо внутрь виртуальной машины.
Читайте также
- Песочница Claude Code сама убрала запрос разрешения
- Из аккаунтов Claude Max воруют токены через инфостилеры
- Embrace The Red описал обход авторежима Opus 5
- Обходы входа в четырёх реализациях SAML нашёл Opus
- Трекер китайских пользователей исчез из Claude Code
- В 6 из 10 тестов авторежим пропустил запуск чужого кода
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите через Google, чтобы оставить комментарий. Имя и аватар подставятся из вашего профиля Google, а комментарий появится после модерации.