Sonnet 5 выровняла более сильную модель Opus 4.8

Более слабая модель может поднять безопасность более сильной. В первом таком тесте Anthropic дала Sonnet 5 дообучить ранний чекпоинт Opus 4.8, и по оценкам безопасности он подошёл близко к рабочему Opus 4.8, прошедшему полное обучение на выравнивание.
До этого Claude получил 48 часов и один GPU на небольших моделях. Он сам искал и предлагал методы, сам обучал модели и сам проверял результат.
Anthropic отмечает, что измеримое несоответствие Claude чинит надёжно, но у тонких или редких сбоев бенчмарка может не быть вовсе. Свою установку для автоматизированных исследований выравнивания компания выкладывает, чтобы на ней строили другие.
Дальше
Harness rebuilt its Git repository for nonstop AI agent traffic
Рост объёма нового кода у части команд доходит до 10 раз, а кто-то заявляет о 50, говорит field CTO Harness Мартин Рейнольдс. Ревьюеры не справляются, и компания пересобрала свой Git-репозиторий под трафик агентов.
Читайте также
- Автоисследователь Anthropic обгоняет людей за шесть часов
- Claude угадывает белки, о которых никто не писал
- Fable 5.2 спроектировал три устройства без правок схемы
- Модели Anthropic растут вдвое быстрее, по оценке METR
- Шифр Уркварта поддался Claude Fable 5.1 за 44 минуты
- Модель Anthropic формализовала теорему Ферма в Lean
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

