Claude Mythos 5 ищет уязвимости в прошивках Oxide

О присоединении к Project Glasswing, совместной инициативе Anthropic по защите критически важного ПО, компания Oxide объявила в своём блоге. Модель Claude Mythos 5 применяется для поиска и устранения потенциальных уязвимостей в собственной кодовой базе: от прошивок до операционной системы, управляющего слоя и сетевого стека.
Сооснователь и технический директор Брайан Кантрилл связал пользу модели с тем, что Oxide проектирует весь стек с нуля и контролирует каждый слой, от корня доверия до сети.
Компания открывает исходный код всего, что пишет, и публикует свои результаты по безопасности, включая ранее найденный изъян в TrustZone микроконтроллера NXP LPC55S69. Работа с большими языковыми моделями описана в документе RFD 576.
Дальше
Инструкции о самопроверке в промптах Opus 5 стали лишними
Инструкцию «добавь финальный шаг проверки» Anthropic советует вычистить из старых промптов. Opus 5 проверяет работу сам, и такие указания только тратят токены без выигрыша в качестве.
Читайте также
- Поток находок Mythos перегрузил инженеров Rubrik
- Автоматические ревью в Anthropic находят комментарии к 54% PR
- Anthropic вводит кибербезопасность в реальном времени для Opus и Sonnet
- Безопасники требуют у OpenAI и Anthropic доступа
- Anthropic даст разработчикам месяц на закрытие дыр
- Hacker News: доступ Defense к Mythos свели к KYC
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

