Переводчик Cohere не рассуждает, и это ради экономии

North Small Translate, новая модель перевода от Cohere на 50 языков, набрала 83,60 балла в общем зачёте WMT26 по всем языкам. У Qwen 3.5 397B A17B в той же оценке 81,56, у Google Translate 68,20. Все цифры получены в оценке самой Cohere. Модель компания анонсировала неделей раньше, а подробности сооснователь Cohere Ник Фросст рассказал The New Stack в материале от 13 сентября.

Это MoE-модель (mixture of experts): на каждый токен работает только часть весов, 25 миллиардов активных параметров из 218 миллиардов. Из 50 языков 32 в Cohere относят к «высокоресурсным», с большим объёмом обучающих текстов, остальные 18 к прочим. Веса можно скачать под лицензией CC BY-NC 4.0, только для некоммерческого использования.

Полная таблица WMT26 из оценки Cohere выглядит так:

• North Small Translate: 83,60;
• Qwen 3.5 397B A17B: 81,56;
• DeepL NextGen: 81,37;
• Gemma 4 31B: 79,46;
• GLM 5.2 FP8: 76,50;
• Google Translate: 68,20.

От ближайшей соперницы, Qwen, North Small Translate отделяют 2,04 пункта. В Cohere утверждают, что модель обходит открытые модели схожего размера (до триллиона параметров), а в среднем и API-сервисы перевода по разным аспектам качества. Ещё компания говорит, что модели нужно меньше вычислений и памяти, чем конкурентам, хотя размеры своих моделей раскрывают не все вендоры.

Куда заметнее разрыв на длинных документах. В собственном длинноконтекстном тесте Cohere модель набирает 48,9, Google Translate 21,3, Gemma 4 31B 19,4. Фросст объясняет, что именно там ломаются нынешние решения: инструкция по безопасности нормально читается на первой странице, а к десятой «уплыла».

«Мы девять лет масштабировали архитектуру, которую придумали, чтобы починить перевод, а машинный перевод всё ещё сломан для большинства языков мира», - говорит Фросст. Универсальные модели, по его словам, проходят большую часть пути и останавливаются. Следующую фазу корпоративного ИИ в этой нише он описывает так: модели станут меньше, специализированнее и будут работать «в ваших собственных стенах».

Вторую проблему Фросст видит в том, куда уходит текст. «Как только вы прогоняете HR-политики или регулируемые документы через сторонний API, данные покинули ваше здание, и ваш контроль над ними неизбежно ослаб», - говорит он.

North Small Translate не рассуждает. Она не строит пошаговую цепочку логики перед ответом, а опирается на выученные статистические закономерности. Отсюда, по словам Фросста, и экономичность: на перевод уходит меньше токенов.

При этом модель умеет работать в несколько проходов: переводит, перечитывает свой результат, находит ошибки и исправляет их. Фросст говорит, что это тот же цикл, на котором её обучали. Поэтому Cohere выпускает две версии. Стандартная работает в один проход и рассчитана на большие объёмы. Агентная тратит больше токенов и получает на WMT26 84,36 против 83,60.

Архитектура та же, что у предыдущих моделей Cohere. Прирост в компании объясняют пост-обучением: обучением с подкреплением и новыми датасетами, собранными именно под перевод. В разработке участвовала RWS, компания из сферы языковых технологий и услуг: её исследовательские команды Language Weaver и лингвисты помогали настраивать модель под реальные задачи перевода.

Кроме самого перевода, в модель встроено то, что нужно в рабочих процессах переводчиков. Она сохраняет структуру документов в Markdown и JSON, следует инструкциям по тону и формату и работает с глоссариями, где заранее задано, какими словами переводить термины. Фросст называет это управляемостью (steerability). По его оценке, генеративные модели перевода дают лучшее качество и больше всего такого контроля, но обычно обходятся заметно дороже классических систем нейронного машинного перевода, которые чаще используют в коммерческих задачах.

Cohere подаёт модель как часть своей стратегии суверенного ИИ, для организаций, которым важно контролировать, где работает модель и что происходит с их данными. Бесплатные веса доступны в трёх вариантах квантизации, а коммерческое использование идёт через Model Vault, среду инференса, которой управляет сама Cohere. Так что коммерческому клиенту «собственные стены» пока предлагают в инфраструктуре вендора. Тем, у кого не хватает железа, есть Space на Hugging Face и API.

Модель продолжает многоязычную линейку Cohere, куда входят Tiny Aya и Command A Translate. Tiny Aya, представленная 17 февраля, по описанию TechCrunch, поддерживает более 70 языков и работает на обычных ноутбуках без интернета. North Small Translate охватывает меньше языков и рассчитана на большие объёмы чувствительных корпоративных документов.

Какую версию запускать, Фросст предлагает решать по типу документа. По его словам, прибавка в качестве у агентной версии «в итоге того стоит, когда документ - это договор или процедура безопасности», а в остальных случаях лучше оптимизировать под эффективность.