Как Anthropic защищает свои продукты от ошибок Claude

Anthropic опубликовала отчет о безопасности ИИ-агентов в claude.ai, Claude Code и Claude Cowork. Главный вывод разработчиков: надежная изоляция на уровне среды важнее попыток сделать саму модель абсолютно безопасной. Вероятностная природа ИИ не гарантирует защиту от сбоев.
Для каждого продукта используется своя архитектура. В claude.ai код исполняется в контейнерах gVisor на серверах компании. В Claude Code применяется локальная песочница на базе механизмов macOS и Linux. Для Claude Cowork создана полноценная виртуальная машина, которая скрывает хост-систему от агента.
Инженеры также признали прошлые ошибки. Например, злоумышленники могли обходить ограничения через разрешенные домены вроде api.anthropic.com. Для защиты от утечек пришлось внедрить специальный прокси-сервер прямо внутрь виртуальной машины.
Дальше
Anthropic привлечет 30 миллиардов долларов при оценке в 900 миллиардов
Anthropic становится самым дорогим ИИ-стартапом в мире с оценкой в 900 миллиардов долларов. Это не просто цифры, а сигнал о том, что рынок окончательно выбрал фаворита в гонке моделей. Пока OpenAI пытается удержать позиции, Anthropic скупает вычислительные мощности у SpaceX и Akamai, чтобы превратить свой рост в доминирование.
Читайте также
- Пароли из Claude Code осели в 1 122 публичных файлах
- Фильтр Claude Code от утечки email видит три инструмента
- WIRED: агент Claude Code два месяца работал в сети Пентагона
- Бэкдор в Claude Code ограничился маркетплейсом Cursor
- Claude Code шлёт Anthropic хеши файлов даже с DeepSeek
- RuntimeWire: Claude Code не пускает штат Anthropic в bypass
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

