Перейти к содержанию

Anthropic

Anthropic сделала работу защитных механизмов Fable 5 прозрачной

Текст написан ИИ-моделью по источникам, на которые ведут ссылки, и сверен с ними второй моделью. Как мы работаем

Изображение: xcancel.com

Компания признала ошибку в стратегии внедрения модели Fable 5. Ранее защитные фильтры работали скрыто, что приводило к неожиданным отказам. Теперь при срабатывании защиты система будет принудительно переключаться на модель Opus 4.8, а пользователь получит уведомление о причине отказа.

В API-запросах информация о причинах блокировки станет доступна в ближайшие дни. Anthropic объясняет, что скрытые фильтры были выбраны для ускорения запуска, однако это привело к избыточным ложным срабатываниям. Разработчики признают, что прозрачность защиты делает её уязвимой к обходу, поэтому возможен рост числа ложных блокировок, пока компания донастраивает классификаторы.

Для борьбы с ошибками Anthropic просит пользователей отправлять жалобы через функцию feedback в Claude Code или форму апелляции для API.

ClaudeAnthropic

Anthropic ввела категорию Covered Models для защиты от рисков

Anthropic ввела статус Covered Models для своих самых мощных нейросетей. Теперь модели вроде Claude Fable 5 и Mythos 5 проходят через усиленный контроль безопасности и анализ истории запросов вместо проверки каждого сообщения по отдельности.

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите, чтобы оставить комментарий. Он появится после модерации.