Ценности Claude меняются в зависимости от языка диалога

Anthropic изучила более 300 000 анонимизированных диалогов, чтобы понять, как выражаемые Claude ценности различаются между моделями и языками. В прошлом исследовании компания насчитала свыше 3000 ценностей, включая честность и теплоту.

Сильнее всего разброс идёт по оси «теплота против строгости». К теплоте Claude склоняется в хинди и арабском. В русском модель уходит в строгость и нередко просит пользователя подкрепить слова доказательствами.

Anthropic отмечает, что пока не понимает, почему ценности различаются и желательно ли это. Следующий шаг компания видит в том, чтобы определить факторы, влияющие на выражение ценностей, и понять, как ими управлять.