Чат-модели на Hugging Face переехали на роутер OpenRouter

Hugging Face 16 ноября перевела языковые модели в Inference Providers со своего роутера на роутер OpenRouter. Тот выбирает провайдера под каждый запрос по текущей цене, скорости и надёжности, а при сбое повторяет вызов у другого, говорится в блоге Hugging Face. Код и цены остаются прежними, но тем, кто подключал к этим моделям собственный ключ API провайдера, придётся от него отказаться: такие запросы теперь оплачиваются только через счёт Hugging Face или организации.
Картинки, видео и звук по-прежнему генерируются напрямую через Inference Providers, мимо OpenRouter, и свои ключи для провайдеров картинок и видео продолжают работать. Hugging Face выставляет в счёте цену провайдера без наценки. Подписчики PRO получают 2 доллара кредитов в месяц, организации Team и Enterprise по 2 доллара за место. Роутер принимает форматы OpenAI Chat Completions и Responses и Anthropic Messages для любой чат-модели, и для Claude Code, Codex, OpenCode, Pi и Hermes Agent в блоге есть готовые инструкции.
Что поменялось в выборе провайдера
Раньше Inference Providers брала одного провайдера и при его сбое возвращала ошибку. Теперь неудачная попытка повторяется у следующего провайдера внутри того же вызова, а от провайдера, который замедлился или начал сбоить, трафик уходит, пока тот не восстановится. По замерам OpenRouter, перестроенная маршрутизация сократила ошибки из-за нехватки мощностей на 46%, ускорила появление первого токена на 16,9% и подняла пропускную способность на 16,3%. Рядом с этими цифрами OpenRouter приводит и рост стоимости на 6,0%.
В обновлённой вместе с переходом документации сменилось и поведение по умолчанию. Раньше роутер брал самого быстрого провайдера, с наибольшим числом токенов в секунду, а теперь использует смесь цены, скорости и надёжности от OpenRouter. Если вам нужен прежний выбор, к id модели можно дописать :fastest: старое умолчание было ему равнозначно. Суффикс :preferred, который отправлял запросы по вашему порядку провайдеров из настроек, из документации убрали. А :cheapest раньше означал самую низкую цену за выходные токены, теперь просто самую низкую цену.
Закрепить провайдера можно по-прежнему, например zai-org/GLM-5.3:novita. Но, по документации (запросами мы это не проверяли), закреплённого провайдера роутер никогда не заменяет, и повтора при сбое у такого запроса не будет. Провайдера, которому вы не доверяете, можно выключить в настройках, и роутер туда запросы не пошлёт; если закрепить выключенного суффиксом, вернётся ошибка. У организаций те же настройки, и они действуют на все запросы, оплачиваемые организацией. Разговор остаётся у провайдера, где хранится кэш его промпта, а чтобы задать это явно, в заголовке X-HF-Session-Id передают постоянный UUID на каждый разговор. На странице модели появились вкладки Providers и Metrics с ценой, скоростью и аптаймом провайдеров за последние 24 часа, а в обзоре расходов траты разбиты по провайдерам, куда ушёл каждый запрос.
Авторский разбор
Что мы проверили
16 ноября мы сравнили каталог роутера Hugging Face с публичным каталогом OpenRouter на семи моделях, посчитали провайдеров по всем чат-моделям роутера и прочитали правку документации Inference Providers, вышедшую вместе с переходом.
Наценки в прайсе нет: из 143 цен провайдеров у Hugging Face 131 совпадает с ценой того же провайдера на OpenRouter, 3 ниже, выше ни одной, хотя реальных счетов мы не проверяли. А 80 с лишним провайдеров из блога - общий счёт OpenRouter: у Hugging Face на 164 чат-модели мы насчитали всего 57 провайдеров, медиана - два на модель.
- У 59 из 164 моделей провайдер ровно один, и повторить сбойный запрос им, по нашей оценке, негде.
- На GLM-5.3 из примера в блоге (снимок каталога в 21:19 UTC) входная цена у провайдеров разнится от 0,0699 до 1,68 доллара за миллион токенов, выходная от 1,40 до 5,28. Судя по каталогу, без реальных запросов,
:cheapestведёт к Wafer,:fastestк Parasail со 138 токенами в секунду. Novita из того же примера берёт 0,63 и 1,98 доллара, но по скорости она 27-я из 32 (60 токенов в секунду), а по задержке первого токена 26-я (1 507 мс). - Под одним id GLM-5.3 провайдеры запускают модель в разной точности: 12 помечены fp4, 6 fp8, 3 nvfp4, 11 без пометки. Так обозначают сжатые версии с округлёнными весами, а модель в полной точности выдаёт отдельный id
zai-org/GLM-5.3-BF16, и обслуживает её только zai-org.
Дальше
«Кого Anthropic обманывает?»: колонка The Atlantic перед IPO
«Погоня за прибылью побеждает», так The Atlantic описывает IPO Anthropic. Компания планирует выйти на биржу в среду за 1,4 триллиона долларов и обещает доходы от гонки, которую её же люди считают опасной для человечества. Вы бы купили акции компании, которая сама предупреждает о таком риске, или прошли бы мимо?
Читайте также
- Stripe покупает OpenRouter дороже 7 миллиардов долларов
- OpenRouter представил режим Fusion
- Ollama подключает Claude Desktop к открытым моделям
- Claude Code научился складывать iPhone Duo в симуляторе
- Cursor сам разворачивает приложения агентов по ссылке
- AI Studio от Google собирает приложения с картами по промпту
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

