Перейти к содержанию

Anthropic

Водяной знак Claude меняет только источник случайности

6 мин чтения

Текст написан ИИ-моделью по источникам, на которые ведут ссылки, и сверен с ними второй моделью. Как мы работаем

Изображение: anthropic.com

Будущие модели Claude будут писать текст с водяным знаком, но сами слова при этом не меняются. Меняется источник случайности, которым модель решает, какое из равноценных слов поставить следующим. Так Anthropic описывает механизм в разборе от 14 августа. Там же компания отвечает на вопросы о качестве, цене, приватности и о том, на каких текстах знак почти не работает.

Повод внешний. С 2 августа Евросоюз требует от поставщиков ИИ, работающих на его рынке, маркировать сгенерированный контент. В июле 2026 года Anthropic подписала кодекс практики ЕС о прозрачности ИИ-контента. Всего у документа около 190 подписантов, среди них несколько других крупных разработчиков моделей, и свои водяные знаки они будут внедрять сами. Claude маркирует текст сразу по всему миру: надёжного способа ограничить знак отдельными регионами у Anthropic пока нет, и компания обещает дальше искать варианты.

Ключ вместо генератора случайных чисел

Модель пишет по одному слову и каждый раз выбирает из списка кандидатов. Anthropic разбирает фразу «The weather today was cold and…». Слово «sugary» здесь почти невозможно, а «overcast» и «grey» вполне вероятны, и для читателя выбор между ними смысла почти не меняет. В таких случаях развилку решает случайное число.

С водяным знаком выбор остаётся случайным, но число берётся из ключа и нескольких предыдущих слов. Таких мелких развилок в любом длинном ответе много, и вместе они складываются в узор, который читатель не видит. Тот, у кого есть ключ, может пройти по тексту и проверить, совпадают ли выборы с теми, что модель сделала бы с этим ключом. Если совпадают, проверка выдаёт вероятность того, что текст написал Claude.

Постоянного перекоса в сторону одного слова при этом нет: в одном предложении выпадет «overcast», в соседнем «grey», в зависимости от контекста. И модель не начинает выбирать слова, которые сама бы не рассматривала. Пример Anthropic: редкого синонима «nubilous» в ответе не появится. В тексте ничего не добавляется, скрытых символов в нём нет.

В основе лежит вариант SynthID-Text, метода Google DeepMind из статьи в Nature 2024 года. Сам подход восходит к предложению Скотта Ааронсона 2022 года, и у всего этого семейства методов один принцип: подменяется только источник случайности. Открытая реализация SynthID Text есть в Hugging Face Transformers начиная с версии 4.46.0, и по описанию Hugging Face её настройка показывает, из чего такой знак состоит. Ключ задаётся списком из 20-30 случайных целых чисел. Параметр ngram_len балансирует устойчивость и обнаруживаемость: по умолчанию 5, минимум 2. Чем он больше, тем знак лучше обнаруживается, но тем легче ломается при правках. Конфигурацию Hugging Face советует держать отдельно для каждой модели и хранить в секрете, «иначе ваш водяной знак смогут воспроизвести другие».

Сколько это стоит

Нисколько, отвечает Anthropic. Лишних токенов знак не порождает, поэтому цена обслуживания и использования модели остаётся прежней, а влияние на скорость компания называет незначительным. Авторы SynthID-Text, как сказано в аннотации статьи в Nature, отдельно встроили водяной знак в спекулятивное семплирование, приём ускорения генерации, который часто используют в продакшене. Обучение модели метод не затрагивает. Проверка тоже дешёвая: самой языковой модели для неё не нужно.

По качеству Anthropic ссылается на собственные тесты: влияния на содержание, креативность и читаемость ответов компания не увидела. DeepMind в своё время пустила модель с водяным знаком на часть трафика Gemini и сравнила оценки «палец вверх» и «палец вниз», статистически значимой разницы не нашлось. В аннотации статьи масштаб назван точнее: почти 20 миллионов ответов Gemini. А в контролируемом исследовании люди-оценщики, сравнивая ответы с водяным знаком и без него бок о бок, разницы в качестве не увидели.

В той же статье 2024 года авторы писали, что водяные знаки для текста до тех пор не применялись в продакшен-системах из-за жёстких требований к качеству, обнаруживаемости и вычислительной эффективности. Теперь, когда этого требует закон ЕС, знаки вводят сразу несколько крупных поставщиков.

Знак привязан к модели и её ответам, а не к пользователю. Ни в нём, ни в ключе нет ничего, по чему можно было бы восстановить человека, организацию или переписку с Claude. На права тоже не влияет: водяной знак ничего не говорит о том, кому принадлежит ответ и кто за него отвечает, и права пользователя по условиям Anthropic не меняет.

Где знаку не за что зацепиться

Знак живёт только там, где у модели есть свобода выбора. После «Isaac Newton’s most famous work was called Principia…» правильный вариант один, «Mathematica», и знаку тут не на чем отпечататься. После «2 + 2 =» тоже: если модель считает, ответ «4», если речь о «1984» Оруэлла, то «5», и равноценной альтернативы нет ни в одном случае. Поэтому на фактических фрагментах знак реже, а в коде его в целом меньше, чем в обычном тексте. В коде он может попасть в места с произвольным выбором слов, например в комментарии, но на сам код его влияние, по словам Anthropic, по определению ничтожно.

С корректурой то же самое. Если попросить Claude поправить только грамматику и пунктуацию, почти все слова останутся вашими, и знак окажется в горстке исправлений, которых может не хватить для обнаружения. Перевод, напротив, размечается целиком: там каждое слово выбирает Claude. Короткие фрагменты проверяются плохо, уверенность растёт вместе с длиной текста.

Обойти знак правкой можно, признаёт Anthropic, но только отчасти. Лёгкое редактирование, скорее всего, полностью его не сотрёт, а полное переписывание, при котором заменено каждое слово, сотрёт. Но тогда, замечают в компании, спорно, можно ли такой текст вообще считать сгенерированным ИИ.

И главное ограничение: по ключу Anthropic проверка отвечает всего на один вопрос, «какова вероятность, что это хотя бы частично написал Claude?». Подтвердить, что текст написан человеком, она не может. Не распознает и другую модель: даже если та ставит свой водяной знак, у неё другой ключ, а то и другой метод. Отличить «это написал Claude» от «Claude это сильно отредактировал» знак тоже не способен.

Как проверить текст и файлы

Anthropic обещает API для обнаружения водяного знака, детали реализации ещё прорабатываются. У DeepMind в эталонной реализации на GitHub два детектора: Weighted Mean, которому не нужно обучение, и более сильный байесовский, который нужно обучать. Сама DeepMind называет этот код эталонным, не предназначенным для продакшена, и для боевого использования отправляет к Transformers.

С файлами Claude поступает иначе. В поддерживаемые форматы, среди них .png, .jpg и .svg, он добавляет криптографически подписанную запись в метаданных о том, что файл создан или обработан с помощью Claude. Формат открытый, C2PA, его используют производители камер и фоторедакторы, чтобы фиксировать происхождение снимка. Прочитать запись может любой инструмент с поддержкой C2PA, Anthropic сделает и свою проверку, куда достаточно перетащить файл. Водяным знаком такая метка не является: в содержимом файла ничего не меняется, и идентифицирующих данных в ней нет.

Моделям, вышедшим до 2 августа 2026 года, закон ЕС даёт переходный период. Anthropic собирается добавить знак и в них, раскатка займёт ближайшие месяцы.

От сторонних детекторов вроде Pangram метод отличается в принципе: ключа у них нет, и они ищут в тексте стилистические приметы. Anthropic приводит две такие: модели любят конструкцию «это не [X], это [Y]» и пишут слово «quietly» заметно чаще, чем можно было бы ожидать.

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите, чтобы оставить комментарий. Он появится после модерации.