Пятичасовой таймаут объяснил разрыв в оценках Qwen 3.8-Max

Alibaba продвигала превью Qwen 3.8-Max как вторую модель после Claude Fable 5, хотя в её таблице на день запуска модель лидирует в одной строке из 12 по агентам для программирования. Независимая связка VulcanBench дала почти обратный результат: режим максимальных усилий оказался в середине списка, настройка по умолчанию на последнем месте.
Разница в бюджетах времени. В сносках Alibaba кодинговые замеры идут с таймаутом в пять часов и до 12 часов на прогон в PaperBench, тогда как VulcanBench отводил от 45 до 60 минут реального времени.
В отчёте VulcanBench от 26 июля минимальный уровень усилий у Claude Opus 5 оказался лучшим: 20 решённых задач из 23 против 18 на высоком уровне. При неограниченном времени высокий уровень лишь сравнивается с самой дешёвой настройкой, стоя в 3,1 раза дороже.
Дальше
В открытый доступ выложили более 1000 системных промптов
Более 1000 системных промптов приложений на ChatGPT, Claude и других моделях выложили авторы стэнфордской работы AISPA. В ней они предлагают методику аудита таких промптов с точки зрения пользователя.
Читайте также
- Opus 5 вышел по цене Opus 4.8 и стал новым дефолтом на Max
- Kimi K3 против Fable 5: тот же код, треть цены, вчетверо дольше
- GLM-5.2 (max) сравнялась с Claude Opus 4.8 на Harvey LAB-AA
- Сравнение GLM-5.2 и Claude Opus 4.8
- Haiku 5.5 печатает быстро, но молчит 415 секунд
- Anthropic нашла у GLM-5.3 хакерские навыки уровня Mythos
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

