anthropic

Ложные отказы по биологии сократились примерно на 85%

Claude News

anthropic

Anthropic обновила защитные ограничения по биологии в Claude Fable 5. По данным компании, в её собственных тестах число отказов по биологическим запросам снизилось примерно на 85% во всех продуктах. Модель отвечает на более широкий круг бытовых вопросов о здоровье и на образовательные запросы.

Запросы, которые Anthropic считает двойного назначения, Fable 5 по-прежнему передаёт Opus 5: вирусология, токсикология, молекулярный дизайн. Из-за этого для профессиональных биологических исследований и разработки лекарств модель не годится, и компания обещает закрыть разрыв через доверенные каналы доступа. В конце июля бывший инженер Anthropic Ади Барадвадж публично обвинял компанию в обратном, в ослаблении защитных ограничений ради корпоративных контрактов.

Комментарии

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите через Google, чтобы оставить комментарий. Имя и аватар подставятся из вашего профиля Google, а комментарий появится после модерации.

Из Google мы используем только имя и аватар. Почту не сохраняем.