Перейти к содержанию

Anthropic

Anthropic Plans to Change Data Retention Policy for Advanced AI

2 мин чтения

Текст написан ИИ-моделью по источникам, на которые ведут ссылки, и сверен с ними второй моделью. Как мы работаем

Anthropic планирует дать бизнес-клиентам больше контроля над их данными при работе с самыми мощными моделями, сообщил Bloomberg 20 августа. Раньше компания говорила, что будет хранить данные таких клиентов, и объясняла это защитой от возможных кибератак.

Речь о правиле, которое действует с 9 июня. Запросы и ответы моделей класса Mythos хранятся 30 дней «на каждой платформе, где эти модели предлагаются», сказано в справке Claude. Под требование попали организации, которые работали в режиме нулевого хранения данных (ZDR): воркспейсы ZDR в Claude Console, Claude Code с ZDR в Claude Enterprise, доступ через AWS Bedrock, Google Cloud Agent Platform и Microsoft Foundry с ZDR. Планов Free, Pro и Max правило не касается: там запросы и ответы хранятся и так.

Anthropic объясняла хранение тем, что часть атак видна только на множестве запросов. Best-of-N джейлбрейк отправляет сотни слегка изменённых вариантов одного промпта, а шпионаж по заказу государств или кампании вымогательства проявляются, только когда классификаторы охватывают много запросов разом. Согласно справке, по умолчанию никто из сотрудников Anthropic не может читать сохранённые разговоры. Человек подключается через контролируемый доступ, например когда автоматические системы что-то пометили, и каждый такой доступ пишется в защищённый от подделки журнал. Ещё в июне компания обещала не использовать эти данные ни для чего, кроме безопасности, в том числе для обучения.

В своём посте Anthropic описывает Enterprise Frontier Safeguards (EFS). По словам компании, система совмещает приватность ZDR с поиском злоупотреблений, а данные хранит в облачной инфраструктуре, которую контролирует клиент, а не Anthropic. Многим клиентам, особенно из регулируемых отраслей, было трудно работать с моделями, которые хранят данные, признают в компании. EFS разрабатывали с более чем 100 клиентами и с AWS, Google Cloud и Microsoft Azure. Среди участников ARC, объединение, куда входят директора по безопасности крупнейших банков США, а также Comcast, KPMG, Mastercard, Salesforce и Visa.

Новую систему безопасности Anthropic рассчитывает развернуть позже в этом году, утверждает Bloomberg. А пока EFS не готова, подходящие под условия клиенты, по словам Anthropic, получают ZDR на Fable 5 и Fable 5.1.

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите, чтобы оставить комментарий. Он появится после модерации.