open-models

Роутер Nvidia урезал стоимость задачи примерно втрое

Promtime

open-models

Во вторник в семействе открытых моделей Nemotron 3 появилась Nemotron 3.5 Lightning: 30 миллиардов параметров, архитектура mixture-of-experts (смесь экспертов). По рассуждениям она близка к более крупной Nemotron 3 Super, но обе уступают Gemma 4 31B от Google в Intelligence Index от Artificial Analysis. Nvidia заявляет о скорости вывода до 4 раз выше.

Вторым релизом стала NeMo Switchyard, открытая библиотека на Rust для маршрутизаторов; её уже встраивают Kong, OpenRouter и LiteLLM. Во внутренних тестах Nvidia связка открытых моделей с Opus 4.8 от Anthropic удержала передовую точность при стоимости задачи примерно в треть от одного Opus.

Модель уже на Hugging Face, ModelScope и OpenRouter, Switchyard выложен на GitHub.

Комментарии

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите через Google, чтобы оставить комментарий. Имя и аватар подставятся из вашего профиля Google, а комментарий появится после модерации.

Из Google мы используем только имя и аватар. Почту не сохраняем.