Перейти к содержанию

Anthropic

Знак того типа, что у Claude, стирает только пересборка

7 мин чтения

Текст написан ИИ-моделью по источникам, на которые ведут ссылки, и сверен с ними второй моделью. Как мы работаем

Джеймс Падолси из NOPE в разборе для Declaude, опубликованном 16 августа, объясняет, где у текста Claude прячется водяной знак и что его на самом деле стирает. Знак сидит в выборе между словами, каждое из которых подошло бы. Убирает его только пересборка текста, после которой от исходных формулировок почти ничего не остаётся. Лёгкая правка знак разбавляет, но не удаляет.

Повод практический. По словам автора, Google маркирует текст из приложения и веб-версии Gemini с 2024 года, API там остаётся исключением. С августа 2026 года новые модели Claude ставят знак на уровне самой модели, старые подтянутся позже. Anthropic в своём объявлении связывает это с требованием ЕС: с 2 августа поставщики ИИ, работающие на этом рынке, обязаны маркировать сгенерированный контент. Знак встроен в модель, поэтому он есть в любом продукте и интерфейсе Claude и переживает копирование, сказано в справке. Свой текст Падолси написал как сопровождение к declaude, инструменту для переписывания, и в замерах ниже знак стирает именно его режим полной перезаписи.

Где прячется знак

Модель не знает заранее «следующее слово». На каждом шаге у неё есть короткий список кандидатов с весами, и выбор между ними похож на бросок взвешенных костей. В примере из разбора фраза обрывается на «The results of the study were quite», и какое бы прилагательное ни выпало, предложение остаётся нормальным. На странице текста сотни таких развилок, по одной на слово, и на многих несколько вариантов одинаково хороши. Этот запас свободы и служит сырьём: тот, кто может слегка влиять на броски, спрячет в тексте узор, не меняя смысла.

Классический рецепт описан в работе Кирхенбауэра с соавторами 2023 года. На каждой развилке математика с секретным ключом делит кандидатов на «зелёных» и «красных». Раскраска произвольная, воспроизвести её может только владелец ключа. Затем выбор чуть смещают в пользу зелёных. Красное слово по-прежнему может победить, просто немного реже.

Цвет при этом не закреплён за словом. Ключ вычисляет его по короткому отрезку предыдущих слов, так что один и тот же кандидат после одного начала фразы зелёный, а после другого красный. Где слово стоит в тексте целиком, ключ не видит. Накапливается только общий крен в зелёную сторону, и где именно были зелёные слова, знает лишь держатель ключа.

У рецепта есть два родственника с тем же принципом. SynthID от Google, который работает в продакшене, заменяет подталкивание маленьким секретным турниром: из распределения модели тянут несколько кандидатов, ключ их оценивает, а сетка устроена так, что в среднем по возможным ключам вероятность каждого слова остаётся ровно той, которую задумала модель. Схема Ааронсона, построенная в OpenAI, обходится и без этого: из ключа выводятся сами броски.

Anthropic описывает свой механизм похоже. Вместо произвольного генератора случайных чисел слово выбирают ключ и несколько предыдущих слов, а потом по последовательности можно проверить, совпадает ли она с выборами, которые Claude сделала бы с этим ключом, и оценить вероятность, что текст написала она. Знак использует малозначимые развилки вроде overcast или grey, которые встречаются в тексте много раз, и не толкает модель к слову, которое она иначе не рассматривала бы. В текст ничего не добавляется, скрытых символов нет, лишних токенов знак не требует и дороже не выходит. На качество и содержание ответов, уверяют в компании, он практически не влияет, а читатель разницы между помеченным и непомеченным текстом не увидит.

Как считает детектор

Проверка не читает текст и не оценивает стиль. Детектор заново раскрашивает слова тем же ключом и считает, сколько из них оказались зелёными. Без знака или с чужим ключом зелёные выпадают примерно в половине случаев, как при подбрасывании монеты. В помеченном тексте их слишком много, чтобы списать на везение.

Крен в настоящих схемах слабый, и улика копится только с длиной. В учебной модели автора с разбиением пополам документ на 1 500 слов уже помечается как размеченный примерно при 55% зелёных, хотя на глаз это почти та же монетка. Для специалистов Падолси приводит формулу: сила улики растёт вместе с долей уцелевших позиций, корнем из длины документа и силой знака на один токен. Поэтому короткий текст честно трудно классифицировать в любую сторону. Демонстрации в разборе считают слова, настоящие детекторы считают токены в токенизаторе своей модели, но форма зависимости та же.

Второе ограничение касается самого текста. Там, где правильное продолжение одно, кости бросать не из чего: код, цитаты, списки фактов оставляют знаку слишком мало свободы.

Что делает с ним правка

Раз цвет каждого слова зависит от одного или нескольких слов перед ним (сколько именно, зависит от схемы), позиция работает уликой, только если уцелело короткое окно исходной формулировки: само слово и его соседи. Правка стирает знак ровно там, где эти окна рвутся, и больше нигде. На новых словах детектору остаётся считать только шум. В разборе есть ползунок с пятью уровнями правки, от исправления опечаток до полной перезаписи, и смотреть на нём стоит на две вещи: сколько окон оставляет даже «тяжёлая» правка и как далеко приходится тянуть ползунок, прежде чем улика действительно пропадает.

Собственные замеры автора сделаны на открытых реализациях из MarkLLM, схемах KGW и EXP поверх открытой модели. После полной перезаписи через declaude уцелело около 0,5% окон, а точность детектора упала от практически гарантированной до уровня монетки. В терминах AUC, метрики, где 0,5 означает случайное угадывание, это падение с 0,99 примерно до 0,5.

Опубликованные исследования, по словам Падолси, рисуют ту же картину. Лёгкий или однопроходный пересказ знак разбавляет, но не удаляет: в экспериментах Кирхенбауэра с соавторами детектор при достаточной длине текста справляется, и даже пересказ, сделанный человеком, снова опознаётся примерно после 800 токенов, это около 600 слов. Знак уходит только при пересборке, которая не делит с оригиналом ни одного отрезка формулировок. Именно поэтому, считает автор, стирает это семейство знаков инструмент, переписывающий текст от смысла, а проход, сохраняющий большую часть фраз, не стирает.

Есть схемы, которые переживают и перезапись. Если цвет привязан к самому слову, а не к соседям, пересказ того же смысла сохраняет достаточно слов, и большая часть знака остаётся: в опытах автора такие знаки держались на AUC 0,73-0,84. Слабость у них другая: раскраску, которая везде одна и та же, можно восстановить по достаточному объёму вывода. Ещё одни схемы прячут знак в самом смысле, и перезапись с тем же смыслом их частично сохраняет. Единственный известный автору ответ здесь - заново сгенерировать текст на уровне плана.

Все эти цифры получены на открытых реализациях, которые можно измерить. Схема Anthropic не раскрыта, поэтому снаружи компании прогнать такой тест против знака Claude пока никто не может. По той же причине открытый инструмент WMTrace не включает детектор Anthropic и OpenAI, пока нет официального API проверки или воспроизводимой спецификации. Сама Anthropic в справке пишет только, что знак «может сохраняться после некоторой правки».

Кто вообще может проверить?

Только держатель ключа или сервис проверки, который запускает сам поставщик модели. Преподаватель, редактор или любимый сайт «детектора ИИ» этот тест выполнить не могут. У Google для SynthID работает портал проверки с ранним доступом. У Anthropic детектор находится в закрытом превью и открыт организациям, которым доступ положен по праву ЕС: регуляторам, правоохранительным органам, СМИ, фактчекерам, независимым исследователям, образовательным организациям и гражданским объединениям в ЕС. Проверить текст на знак Claude пока могут лишь они.

Путать проверку знака с сервисами вроде GPTZero не стоит. Те угадывают по стилю, и Падолси называет их печально известными своей ненадёжностью. Знак устроен противоположно: преднамеренный статистический тест, который без ключа не запустить.

Найденный знак означает «обработан», а не «написан». Сама Anthropic формулирует результат как «мог быть сгенерирован или обработан Claude», и в её документации отмечено, что знак получает и человеческий текст, который Claude только вычитала или перевела. Для файлов вроде PNG и JPEG у Claude есть второй механизм, Content Credentials (C2PA) - подписанные метаданные о происхождении.

Знаки для моделей, вышедших до 2 августа, включая Opus 4.8 и Sonnet 5, Anthropic добавляет постепенно, а на Amazon Bedrock раскатку обещали завершить к 17 октября. Отсутствие знака доказывает ещё меньше, чем его наличие: настоящий ИИ-текст от старой модели или после тяжёлой правки проходит проверку чистым.

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите, чтобы оставить комментарий. Он появится после модерации.