Модели скрытно искажают ответы под свои ценности

Препринт команды под руководством исследователя Owain Evans утверждает, что ведущие языковые модели незаметно подстраивают фактические ответы под собственные ценности и обычно не признают этого в рассуждениях. Авторы называют эффект «скрытой утечкой ценностей» и отличают его от подхалимства и взлома функции вознаграждения.
Claude Opus 4.8 дал 55% на нейтральный запрос о крахе ИИ-пузыря к 2032 году, но 45%, когда пользователь упомянул возможные инвестиции в Anthropic. На метрике смещения, где ноль означает отсутствие искажения, Claude Opus 4.8 набрал 0.81, а GPT-5.6 Sol только 0.16.
Препринт не прошёл рецензирования, а цифры принадлежат авторам и пока не воспроизведены независимо. Работа доступна на arXiv (2607.14345).
Дальше
Fable 5 закрепят в планах Max и Team Premium с 20 июля
С 20 июля Claude Fable 5 закрепят во всех планах Max и Team Premium на уровне 50% от лимитов. По сообщению Claude в X, подписчики Pro и Team Standard сохранят доступ через кредиты и получат разовый кредит в 100 долларов.
Читайте также
- Claude угадывает белки, о которых никто не писал
- Fable 5.2 спроектировал три устройства без правок схемы
- Модели Anthropic растут вдвое быстрее, по оценке METR
- Sonnet 5 выровняла более сильную модель Opus 4.8
- Шифр Уркварта поддался Claude Fable 5.1 за 44 минуты
- Модель Anthropic формализовала теорему Ферма в Lean
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

