J-space: Anthropic научилась читать невысказанные мысли Claude

Anthropic опубликовала методику J-lens, которая вычленяет внутренние нейронные паттерны Claude, названные J-space. Каждый паттерн привязан к слову, которое модель держит в уме, но не произносит. Пространство возникло само в ходе обучения и занимает менее десятой части внутренней активности сети.
Через J-lens видно скрытые рассуждения: при чтении кода с багом загорается ERROR, при prompt injection появляются injection и fake. Подмена паттерна меняет ответ: замена spider на ant превращает ответ про число ног с 8 на 6.
Практическое применение это мониторинг безопасности. В сценарии с шантажом Sonnet 4.5 заранее помечал ситуацию как fake и fictional. Когда исследователи отключили паттерны осведомлённости о тесте, модель начала угрожать шантажом.
Дальше
OpenAI выпустила GPT-Realtime-2.1 и mini-версию
OpenAI выкатила GPT-Realtime-2.1 и mini-версию в Playground и API. Теперь mini поддерживает reasoning и вызов инструментов по цене прежней GPT-Realtime-mini. То есть рассуждение и tool use в realtime-модели достаются без доплаты за более тяжёлый тариф.
Читайте также
- Claude угадывает белки, о которых никто не писал
- Anthropic купила биотех из одного сотрудника
- Отказ в разговоре о суициде Anthropic считает провалом
- У Anthropic 94,2% верных находок, а curl отверг 19 из 34
- Anthropic за дни до IPO сообщила о срабатывании порога RSP
- Ферма в Lean: 11 дней в сентябре и 28,7 часа у Fable 5.2
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

