hardware-infra

Роутер PAIR раздаёт субагентов по домашним компьютерам

Promtime

hardware-infra

Nvidia выпустила открытый маршрутизатор Personal AI Router (PAIR), который раздаёт запросы субагентов на простаивающие Mac и PC в домашней сети и в тесте компании ускорил работу пяти субагентов примерно в 1,6 раза. Бета доступна для Windows, macOS и Linux, запуск состоялся в четверг, пишет Thenewstack.

Коротко

  • Ведущий агент вроде OpenClaw, NemoClaw или Hermes делит задачу между субагентами, а PAIR через mDNS находит подходящие компьютеры в локальной сети и выбирает, где выполнить каждый запрос.
  • Поддерживаются Windows, macOS и Linux: базовый уровень это GeForce RTX 20 и новее, Mac на M4 и новее или DGX Spark, а позже в этом году добавятся PC и ноутбуки RTX Spark.
  • Один запрос от начала до конца выполняет один узел, а объединения видеопамяти нескольких машин Nvidia не обещает, поэтому выигрыш в домашней сети дают только параллельные обращения субагентов.

Ставка Nvidia на открытые модели и локальный запуск складывается уже давно, а покупка Hugging Face это направление, судя по всему, ускорит. PAIR выглядит как попытка снять главное ограничение домашнего вывода: одна машина тянет одну модель и одного агента за раз. Поддержка Mac на M4 здесь показательна, поскольку эти компьютеры стали популярной платформой для локальных моделей и агентов вроде OpenClaw, хотя видеокарт Nvidia в них нет.

Запрос от начала до конца выполняет один выбранный узел

Nvidia называет PAIR виртуальным маршрутизатором вывода и подчёркивает, что собственного движка у него нет: запросы исполняют уже установленные Ollama или LM Studio. Агент обращается к привычному локальному интерфейсу, PAIR принимает запрос через свой прокси, определяет требования к движку и модели и выбирает один подходящий узел. Тот выполняет запрос целиком и возвращает ответ через PAIR, а агент всё это время видит одно соединение.

Маршрутизатор отправит запрос только на тот узел, где включён нужный движок и загружена именно та модель, которую запросил агент. PAIR постоянно следит за тем, какие компьютеры свободны, и останавливает локальный движок вывода, когда пользователь возвращается к работе или играм и снова забирает GPU. Агентам вроде NemoClaw, OpenClaw или Hermes PAIR даёт возможность держать больше субагентов одновременно, распределяя их запросы по свободным машинам.

Два PC с RTX 5090 ускорили работу пяти субагентов примерно в 1,6 раза

В примере Nvidia использовались два PC с видеокартами RTX 5090 на 32 ГБ памяти и модель Qwen3.6 35B A3B. При работе с пятью субагентами такая конфигурация ускорила выполнение задач примерно в 1,6 раза. Сейчас такие карты стоят на рынке около 5000 долларов при стартовой рекомендованной цене в 2000 долларов.

Nvidia отдельно подчёркивает, что прирост здесь достигается только числом параллельных запросов: объединения GPU и общей видеопамяти нескольких машин в продукте нет. Thenewstack отмечает, что сборки из нескольких RTX 5090 в домашних условиях встречаются редко, а более типичная связка из Mac Studio, пары Mac mini и игрового PC в тестах пока не проверялась.

Базовый уровень поддержки начинается с GeForce RTX 20 и Mac на M4

PAIR работает на Windows, macOS и Linux при наличии совместимого GPU. Базовым уровнем Nvidia называет видеокарты GeForce RTX 20 и новее, Mac на чипе M4 и новее либо десктоп DGX Spark. Позже в этом году к списку добавятся PC и ноутбуки RTX Spark, которые пока не поступили в продажу.

Каждая система может держать свой набор моделей, а одинаковая модель, установленная на нескольких компьютерах, расширяет маршрутизатору выбор при распределении параллельных запросов. Без установленных Ollama или LM Studio и без заранее скачанной модели узел в распределении запросов не участвует. Mac попали в список поддерживаемых устройств, хотя графических ускорителей Nvidia в них нет.

Установить PAIR нужно на каждый компьютер, который войдёт в сеть, после чего системы обнаруживают друг друга и сопрягаются. Сам маршрутизатор помогает с подготовкой: он может установить Ollama или LM Studio на сопряжённые машины и запустить загрузку нужных моделей на них.

Сроки стабильной версии и RTX Spark PAIR остаётся в статусе беты, сроки стабильной версии Nvidia не называет. Не объявлены и точные даты выхода PC и ноутбуков RTX Spark, которые обещаны в течение этого года и должны пополнить список совместимых устройств. Открытым остаётся и вопрос о выигрыше на смешанных домашних сборках без топовых видеокарт Nvidia и DGX Spark.

Комментарии

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите через Google, чтобы оставить комментарий. Имя и аватар подставятся из вашего профиля Google, а комментарий появится после модерации.

Из Google мы используем только имя и аватар. Почту не сохраняем.