Перейти к содержанию

Anthropic

Claude вшивает водяной знак в текст, проверка пока закрыта

4 мин чтения

Текст написан ИИ-моделью по источникам, на которые ведут ссылки, и сверен с ними второй моделью. Как мы работаем

Изображение: oreilly.com

Anthropic 22 октября обновила в справочном центре Anthropic таблицу моделей с водяным знаком. На собственных площадках Anthropic знак вплетается в текст всех 16 моделей Claude из этой таблицы, а у облачных партнёров только у девяти. Тем, кто работает с Claude через AWS, Google Cloud или Microsoft Foundry, знак в тексте и подпись C2PA в файлах дают Fable 5 и 5.1, Mythos 5.1, Opus 4.8, 5 и 5.5, Sonnet 5 и 5.5 и Haiku 5.5. На Amazon Bedrock для части из них раскатка завершится к 23 октября.

Знак ставится на уровне модели, поэтому он есть в ответе из любого продукта Claude и уходит вместе с текстом при копировании. Часть правок он тоже может пережить. Разметка действует по всему миру, не только в ЕС, и охватывает API, приложения Claude, Claude Code, Cowork и Tag. Так Anthropic выполняет кодекс практик по статье 50(2) европейского AI Act о прозрачности ИИ-контента, который подписала и как поставщик моделей, и как поставщик систем.

Какие модели и где

Семь моделей из таблицы размечаются только на площадках Anthropic: Mythos 5, Opus 4.5, 4.6 и 4.7, Sonnet 4.5 и 4.6, Haiku 4.5. В ответах этих моделей у облачных партнёров текстового знака нет, а файлам они не ставят и Content Credentials по C2PA. У девяти остальных моделей отмечены все три колонки. Сноска про Bedrock со сроком до 23 октября стоит у Fable 5, Opus 4.8 и Sonnet 5.

Круг моделей за два месяца вырос. В августовском анонсе Anthropic говорила, что водяной знак получат «будущие модели Claude». Теперь на странице сказано, что знак добавляют и в выдачу моделей, вышедших до 2 августа 2026 года. Модели, запущенные в ЕС 2 августа и позже, поддерживают разметку с первого дня, а для более ранних действует переходный период.

Кодекс к концу июля подписали около 190 участников, и в разделе для поставщиков моделей рядом с Anthropic стоят Google, Meta, Microsoft, Mistral и OpenAI. У каждого из них будет свой знак, а детектор Anthropic ищет только знаки Claude.

Как устроен знак

Модель пишет текст по одному слову и выбирает из нескольких кандидатов. Там, где варианты примерно равноценны, вроде «пасмурный» и «серый», выбор решает случайное число. При разметке выбор остаётся случайным, но решают его секретный ключ и несколько предыдущих слов вместо обычного генератора. Имея ключ, можно проверить, совпадает ли последовательность слов с тем, что выбрал бы Claude, и оценить вероятность того, что текст написал Claude.

По словам Anthropic, метод не подталкивает Claude к словам, которые он и так не рассматривал бы, не добавляет скрытых символов и лишних токенов и не стоит дороже. Связать текст с конкретным человеком, организацией или чатом по знаку нельзя. С файлами по-другому: PNG и JPEG от Claude получают подписанные метаданные о происхождении по открытому стандарту C2PA, и проверить их можно в бесплатном Claude Content Checker.

Кто может проверить текст

Детекция текстового знака пока в закрытом превью. Доступ дают организациям, которым он положен по законам ЕС: регуляторам, правоохранителям, СМИ, фактчекерам, независимым исследователям, образовательным организациям и гражданским объединениям ЕС. Кроме них доступ могут получить компании, которым по AI Act нужно проверять разметку для собственного соответствия. Заявку подают через форму на странице. «Мы планируем со временем расширять доступ к API детекции», обещает Anthropic.

Инструктор платформы живых курсов O'Reilly в разборе для своих слушателей утверждает, что любой, у кого есть детектор водяных знаков, «легко» определит текст, написанный с Claude. Сам детектор при этом закрыт, и у знака есть ограничения, которые называет сама Anthropic.

Что знак не доказывает

Как сообщает Search Engine Journal, Anthropic предупреждает, что найденный знак говорит лишь о том, что Claude мог обработать текст, и не доказывает, что текст написал Claude. Знак может появиться после вычитки, перевода, пересказа или конвертации файла, даже если идеи и текст чужие. Его может и не оказаться: если текст написала старая модель, если его сильно отредактировали или если он слишком короткий для чёткого сигнала.

Насколько сильно правка бьёт по такому знаку, показывает сторонний ориентир. В августовском разборе Джеймса Падолси на открытой модели со схемами KGW и EXP и с известным ключом после полного переписывания уцелело около 0,5% окон, а лёгкие правки влияли на знак куда слабее.

Компаниям, которые встраивают Claude в свои продукты, Anthropic обещает техническое руководство по разметке и детекции, но обязанности по закону с них не снимает: «Если вы развёртываете Claude в собственном продукте, вам стоит самостоятельно оценить, чего статья 50 требует от ваших продуктов и услуг».

OpenAIOpenAI

OpenAI уволила исследователей после проверки их телефонов

По данным The Wall Street Journal, служба безопасности OpenAI проверила личные телефоны трёх исследователей и увидела, что некоторые переписывались с внешним исследователем в Signal с исчезающими сообщениями. Через неделю их уволили. Рабочие разговоры у вас идут в личном мессенджере или только в корпоративных каналах?

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите, чтобы оставить комментарий. Он появится после модерации.