Роутер Nvidia урезал стоимость задачи примерно втрое

Во вторник в семействе открытых моделей Nemotron 3 появилась Nemotron 3.5 Lightning: 30 миллиардов параметров, архитектура mixture-of-experts (смесь экспертов). По рассуждениям она близка к более крупной Nemotron 3 Super, но обе уступают Gemma 4 31B от Google в Intelligence Index от Artificial Analysis. Nvidia заявляет о скорости вывода до 4 раз выше.
Вторым релизом стала NeMo Switchyard, открытая библиотека на Rust для маршрутизаторов; её уже встраивают Kong, OpenRouter и LiteLLM. Во внутренних тестах Nvidia связка открытых моделей с Opus 4.8 от Anthropic удержала передовую точность при стоимости задачи примерно в треть от одного Opus.
Модель уже на Hugging Face, ModelScope и OpenRouter, Switchyard выложен на GitHub.
Дальше
Плагин переписывает ответы Claude простым языком
Каждое сообщение Claude в терминале получило упрощённый пересказ от локальной модели через Ollama, по умолчанию Gemma 4 на 26 млрд параметров. Оригинал при этом остаётся в транскрипте и вызовах инструментов.
Читайте также
- NVIDIA научила модель расшифровки речи слушаться промптов
- Cursor Router обещает экономию до 60% на выборе модели
- Чат-модели на Hugging Face переехали на роутер OpenRouter
- Gemini Decisions API берёт до 1 000 вопросов за вызов
- Fable 5.2 в AI Gateway требует хранить запросы 30 дней
- Веса Kimi K3.1 Pro открыты: 104 млрд активных параметров из 2,8 трлн
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

