Перейти к содержанию

OpenAI

OpenAI ускорила GPT-6 и дала API водяные знаки textGrain

2 мин чтения

Текст написан ИИ-моделью по источникам, на которые ведут ссылки, и сверен с ними второй моделью. Как мы работаем

Всё о теме: OpenAI: модели и продукты →
Изображение: journalduweb.org

OpenAI дала клиентам API возможность включить невидимые водяные знаки textGrain, а тексты ChatGPT и Codex в ЕС получат такие знаки в ближайшие недели. Если вы работаете через API, знак появится только после того, как вы его включите, а проверить текст на знак самим пока не выйдет: детектор OpenAI сначала отдаёт только одобренным исследователям и экспертным организациям.

Об этом сообщила ежедневная сводка ИИ-новостей в Threads. Там же вторая новость OpenAI: GPT-6 Astra и GPT-6.1 Sol в ChatGPT стали работать примерно на 50% быстрее. С этого ускорения OpenAI начинает 28 дней ежедневных улучшений для пользователей Codex и Work.

Сам анонс textGrain OpenAI сделала 5 октября. Европейская часть, по словам TechCrunch, нужна для правил прозрачности AI Act, вступивших в силу 2 августа: они требуют помечать созданный ИИ контент так, чтобы его распознавали другие системы. В API знак включают в дашборде (Organization settings, Data controls, Text provenance) и выбирают отдельно для каждой модели, говорится в разборе Макса Нардита.

Никакого символа в тексте нет. Знак живёт в выборе слов: модель слегка смещает, какое слово поставить следующим, и оставляет узор, который читатель не видит, а детектор находит. Поэтому знак переезжает вместе с текстом при копировании. В техническом отчёте, который OpenAI написала вместе с исследователями из Пенсильванского и Йельского университетов, секретный ключ сортирует варианты следующего слова, и сотни таких сдвигов складываются в сигнал. Детектор, как объясняет TechCrunch, опознаёт ИИ-текст по одному тексту и ключу.

В одном тесте OpenAI замена всего 10% слов синонимами снизила обнаружение примерно с 92% до 66%. Короткие фрагменты, ответы по математике и переводы компания сама называет трудными для детектора. Нардит разобрал опубликованные OpenAI цифры: при доле ложных срабатываний 1% фрагменты в 200 токенов находятся примерно в 80% случаев, в 400 токенов около 95%, а при замене 25% слов синонимами обнаружение падает до 17%. По 24 официальным языкам ЕС, по его же подсчёту, обнаружение колебалось от 42,2% у румынского до 69,0% у испанского, и для языков ниже 60% OpenAI затем усилила знак.

Качество ответов со знаком, уверяют в OpenAI, заметно не меняется. В таблице для GPT-6 «Astra» GPQA Diamond со знаком 94,44% против 93,94% без него, а Terminal-Bench 4.0 - 53,90% против 56,06%, на 2,16 п.п. ниже.

Текстовый водяной знак у OpenAI был и раньше, но компания его не выпускала, в том числе из опасений, что пользователи уйдут к конкурентам без маркировки, сообщала в 2024 году The Wall Street Journal. Anthropic двумя месяцами раньше объявила, что будет ставить знаки на тексты Claude по всему миру, и часть пользователей Claude встретила это недовольством. У OpenAI знак без отдельного включения появится только в текстах ChatGPT и Codex в ЕС.

Ограниченный доступ к детектору OpenAI связывает с ограничениями самого метода: исследователи должны помочь оценить, насколько он надёжен и где его уместно применять. И компания предупреждает, что отсутствие знака «не доказывает авторство человека».

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите, чтобы оставить комментарий. Он появится после модерации.