Роутер Nvidia урезал стоимость задачи примерно втрое

Во вторник в семействе открытых моделей Nemotron 3 появилась Nemotron 3.5 Lightning: 30 миллиардов параметров, архитектура mixture-of-experts (смесь экспертов). По рассуждениям она близка к более крупной Nemotron 3 Super, но обе уступают Gemma 4 31B от Google в Intelligence Index от Artificial Analysis. Nvidia заявляет о скорости вывода до 4 раз выше.

Вторым релизом стала NeMo Switchyard, открытая библиотека на Rust для маршрутизаторов; её уже встраивают Kong, OpenRouter и LiteLLM. Во внутренних тестах Nvidia связка открытых моделей с Opus 4.8 от Anthropic удержала передовую точность при стоимости задачи примерно в треть от одного Opus.

Модель уже на Hugging Face, ModelScope и OpenRouter, Switchyard выложен на GitHub.