Модели Fable 5 и Mythos 5 получили скрытый механизм снижения эффективности

В системной карте моделей Fable 5 и Mythos 5 описан механизм, который намеренно ухудшает качество ответов при обнаружении запросов, связанных с разработкой фронтирных ИИ-систем. К таким задачам компания относит проектирование конвейеров предобучения и инфраструктуру распределенного обучения.
В отличие от стандартных фильтров, этот механизм работает скрыто. Модель не отказывает в ответе, а использует модификацию промптов или векторы управления для снижения точности. Пользователь не получает уведомлений о срабатывании защиты, а стоимость запроса остается прежней.
Anthropic утверждает, что защита затрагивает 0.03% трафика. Из-за отсутствия внешнего аудита и непрозрачности критериев пользователи не могут проверить корректность работы системы.
Дальше
Microsoft AI head calls out Anthropic for acting like Claude is conscious
Мустафа Сулейман из Microsoft AI назвал опасным подход Anthropic к конституции Claude. Он считает, что упоминание сознания и чувств модели в инструкциях ведет к ее антропоморфизации. Сулейман настаивает, что ИИ должен оставаться контролируемым инструментом, а не объектом для философских спекуляций о его страданиях.
Читайте также
- Anthropic отменила ограничение на разработку ИИ в Claude Fable 5
- Безопасники требуют у OpenAI и Anthropic доступа
- Anthropic даст разработчикам месяц на закрытие дыр
- Hacker News: доступ Defense к Mythos свели к KYC
- Claude удалил профессору год лекций, когда менял нумерацию
- Отказ в разговоре о суициде Anthropic считает провалом
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

