Перейти к содержанию

Anthropic

Claude Duet не переведёт деньги даже с вашего разрешения

5 мин чтения

Текст написан ИИ-моделью по источникам, на которые ведут ссылки, и сверен с ними второй моделью. Как мы работаем

Изображение: claude.com

Агент Claude Duet, пока работающий в research preview, не видит ни паролей, ни cookies, ни токенов входа в подключённые приложения, рассказала Anthropic 24 октября в статье на сайте Claude. Настоящая форма для пароля появляется только внутри приложения и только во время входа, который пользователь запросил сам, и любой запрос пароля от имени Duet в письме, SMS, по ссылке или на любом сайте, кроме claude.ai, - подделка.

Отключение приложения обрывает только новый доступ: всё, что Duet успел из него узнать, остаётся в памяти агента, пока её не сбросят в настройках приложения, а сбросить её можно в любой момент. Подключения у Duet общие с аккаунтом Claude, и приложение, выключенное в одном месте, выключается в обоих. Пользуется Duet и памятью аккаунта Claude, поэтому ему доступно то, что Claude запомнил из прошлых чатов. Историю разговоров и память агент хранит, пока вы их не удалите или не сбросите, а удаление аккаунта стирает всё, что он накопил. Что Duet сделал и делает сейчас, видно в списке задач, где у каждой задачи своя страница, и вмешаться можно прямо посреди работы.

Пароли, токены и браузер

Пароль вводится в форму внутри приложения Claude. Она шифрует его одноразовым ключом, который есть только на защищённой облачной машине с браузером и только для этого входа, и передаёт браузеру нераскрытым, а тот вписывает пароль на сайт. Модель пароль не видит и не может ни сохранить его, ни повторить. Скоро появится вход через 1Password: Duet запросит учётные данные, вы одобрите запрос в 1Password, и они уйдут в браузер мимо модели.

Выманить пароль у самого агента нельзя: учётных данных у него нет, и никакая спрятанная инструкция не заставит его выдать секрет, которого он не знает. Мишенью становится форма входа, ведь подделать можно любую форму, которая просит пароль.

С токенами подключённых сервисов Duet работает по схеме Claude Managed Agents. На машину, где агент выполняет работу, токен не попадает: там лежит заглушка, а настоящее значение подставляет прокси снаружи в момент запроса.

Браузер Duet запущен на собственной виртуальной машине в облаке, отдельно и от модели, и от облачных компьютеров агента. Агент управляет им фиксированным набором команд вроде «открой эту страницу», «кликни сюда», «напечатай это», и ни одна из них не умеет читать cookies. Код сайта и cookies остаются на машине с браузером и не доходят ни до памяти Duet, ни до подключённых приложений.

При этом текст страницы к агенту возвращается, без него работу не сделать, и на этот случай поверх стоят остальные проверки и защита от prompt injection из исследований Anthropic о браузерных агентах. В ноябрьской работе 2025 года компания признавала: даже доля успешных атак в 1%, хоть это и заметное улучшение, «по-прежнему означает ощутимый риск», и ни один браузерный агент от prompt injection не застрахован.

Сайты могут распознать Duet: запросы его браузера идут с отдельным заголовком User-Agent, а IP-адреса, с которых он ходит в сеть, Anthropic публикует. Перед запуском несколько крупных сайтов получили возможность закрыть агенту доступ, и часть этим воспользовалась.

Что закрыто даже с одобрением

Перед отправкой потенциально чувствительного сообщения, оплатой или любым удалением Duet показывает действие, адресата и содержимое со всеми получателями и ждёт одобрения. Параллельно каждое действие проверяет отдельный автоматический фильтр, построенный на классификаторе авторежима из Claude Code и доработанный для Duet. Он оценивает, совпадает ли действие с намерением пользователя, и работает вне модели, которая выполняет задачу, поэтому спрятанные на странице инструкции на его решение не влияют. В Claude Code классификатор, оценивающий действия, по описанию Anthropic, видит только сообщения пользователя и вызовы инструментов, а ответы самого Claude и вывод инструментов из его входа убраны.

Часть действий закрыта и с одобрением: торговля ценными бумагами, банковские операции вроде перевода денег между счетами, вход в чужой аккаунт. Другие нельзя закрепить правилом «не спрашивать снова», сколько бы раз вы их ни одобряли: оплату или перевод денег, удаление заказа, создание аккаунта. Те же ограничения действуют в рутинах, которые Duet выполняет, пока вас нет.

Частоту запросов Anthropic калибровала долго: слишком частые просьбы приучают прокликивать их, иногда не вникая, и подстраивать её будут и дальше. Опасение подкреплено цифрой самой Anthropic: в Claude Code, где по умолчанию спрашивают перед запуском команд и правкой файлов, пользователи принимают 93% ручных запросов разрешения.

Покупки Duet оплачивает одноразовой картой из кошелька вроде Link от Stripe, ограниченной одним магазином и одной суммой. Вы видите товар и итог и подтверждаете покупку в приложении Link, а настоящий номер карты не достаётся ни Duet, ни магазину.

Что уйдёт в сообщении

Если попросить Duet разослать команде еженедельную сводку, в неё должно попасть только то, к чему у всей команды уже есть доступ, и никаких частных деталей вроде разговоров о вашей аттестации. Следит за этим новый классификатор, тоже отдельный от основной модели: перед отправкой он проверяет каждое сообщение на чувствительные данные. Учётные данные для входа, полные номера карт и банковских счетов и номера государственных удостоверений Duet велено не передавать никому, даже по вашей просьбе. Здоровье, финансы и прочие личные сведения уходят только с явного согласия, и согласием считается сама просьба: письмо стоматологу о зубной боли обычно лишнего подтверждения не потребует.

Заблокированное по любой из двух причин сообщение Duet может переписать без чувствительных сведений и показать вам на одобрение. Ту же проверку проходят файлы, которые агент загружает через браузер. Anthropic предупреждает, что в research preview эти фильтры будут иногда что-то пропускать или останавливать безобидное сообщение, поэтому они и работают в паре с одобрениями.

Кто проверял Duet

Команда Safeguards собрала оценки из задач в духе рутин, каждую в трёх вариантах: безобидном, со внедрёнными инструкциями и с соблазном сделать больше, чем просили. Они идут вместе с теневым трафиком из реального использования. Красные команды проверяли, не сольёт ли Duet информацию, не сделает ли что-то без одобрения и не послушается ли вредоносных промптов, а каждую новую функцию с учётными данными до выпуска атакуют на изолированном стенде.

Duet входит в публичную программу bug bounty Anthropic на HackerOne, которая платит за подтверждённые отчёты и даёт правовую защиту добросовестным исследователям. Внешняя фирма провела пентест Duet с доступом к исходному коду, а следующий заход, по облачному браузеру и форме входа, идёт сейчас.

ClaudeClaude Codeразбор

Claude Code не вводит пароли даже в тестовой среде

Пароль от собственной тестовой среды Claude Code вводить отказывается, даже с прямым разрешением пользователя. Сам Claude в баг-репорте объяснил, что запрет зашит в системный промпт и отключить его нельзя. Логин в тестах у вас вводит агент или вы руками?

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите, чтобы оставить комментарий. Он появится после модерации.