Ложные отказы по биологии сократились примерно на 85%
Anthropic обновила защитные ограничения по биологии в Claude Fable 5. По данным компании, в её собственных тестах число отказов по биологическим запросам снизилось примерно на 85% во всех продуктах. Модель отвечает на более широкий круг бытовых вопросов о здоровье и на образовательные запросы.
Запросы, которые Anthropic считает двойного назначения, Fable 5 по-прежнему передаёт Opus 5: вирусология, токсикология, молекулярный дизайн. Из-за этого для профессиональных биологических исследований и разработки лекарств модель не годится, и компания обещает закрыть разрыв через доверенные каналы доступа. В конце июля бывший инженер Anthropic Ади Барадвадж публично обвинял компанию в обратном, в ослаблении защитных ограничений ради корпоративных контрактов.
Читайте также
- Экс-инженер обвинил Anthropic в ослаблении защиты
- Anthropic опубликовала System Card для Claude Sonnet 5
- Anthropic планирует публичный релиз моделей класса Mythos
- Anthropic передала полиции запись из «дневника» в Claude
- Конституция Claude запрещает даже ложь из вежливости
- Дыру, найденную Mythos, начали эксплуатировать через сутки
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите через Google, чтобы оставить комментарий. Имя и аватар подставятся из вашего профиля Google, а комментарий появится после модерации.