NVIDIA DSX POD обещает запуск ИИ-фабрики за 14 дней

NVIDIA 21 октября на GTC Berlin представила DSX POD, эталонный дизайн ИИ-фабрики на Vera Rubin. Партнёры собирают её в модульных контейнерах прямо на заводе, и на подготовленной площадке развёртывание занимает от 14 дней вместо шести месяцев. Об этом говорится в пресс-релизе NVIDIA.

Контейнер приезжает готовым к подключению. Всё, что раньше монтировали на месте, теперь делают в цеху: вычислительные системы, сеть, кабели, питание на уровне стойки и жидкостное охлаждение. Ещё до отправки партнёры прокладывают кабели между стойками, разводят проводку и трубы и проводят функциональные тесты. На площадке остаётся подключить контейнер к питанию, воде и сети, после чего такие блоки, как описывает NVIDIA на странице продукта, наращиваются до фабрики большего масштаба.

Заводская сборка идёт параллельно с подготовкой площадки. Поэтому NVIDIA обещает меньше зависеть от задержек с поставкой компонентов и меньше дорогой ручной работы на месте, где легко ошибиться. Традиционная стройка, по описанию компании, требует долгого планирования, строительных работ, редких специалистов и сложной логистики.

Шесть месяцев - это около 180 дней, так что разница почти в 13 раз. Но у цифры две оговорки самой NVIDIA: 14 дней указаны как минимум («as little as»), и считаются они на уже подготовленной площадке, а готовят её отдельно и в эти две недели не включают.

Деньги NVIDIA считает от момента, который называет временем до первого токена: тогда новая фабрика начинает обслуживать реальную нагрузку и приносить выручку. «ИИ-фабрика создаёт ценность, когда начинает производить токены, а не когда закончено строительство», - сказал Дженсен Хуанг. С DSX POD, по его словам, компания приносит в строительство ИИ-инфраструктуры «заводскую точность и скорость».

DSX POD наследует подход более широкой платформы NVIDIA DSX, но архитектура у него своя, рассчитанная на контейнеры. Среди преимуществ NVIDIA называет DSX MaxLPS: управление питанием по политикам, динамическое распределение нагрузки и подробную телеметрию, чтобы выжимать максимум пропускной способности в заданном лимите мощности. Контейнеры по эталонному дизайну выпускают ODM-производители и поставщики контейнерных решений, они же отвечают за доработку под заказчика, сервис и поддержку.

Testing Catalog в Threads сообщает, что вместе с DSX POD NVIDIA представила OpenShell Reference Architecture. Сам OpenShell, судя по репозиторию на GitHub, - это среда выполнения для парков автономных ИИ-агентов. В политике прописывают, к чему может обращаться каждый агент, а OpenShell следит за этим на уровне ядра: агент работает в изолированной песочнице, доступ к файлам и системным вызовам ограничен, а каждое сетевое соединение проходит проверку политикой до выхода наружу. Настоящих учётных данных агенты не видят, их подставляют только в запросы к одобренным адресам. Изменения политики перед утверждением проходят формальную верификацию, и рискованный новый доступ, например вызов нового метода API, ждёт решения человека. Версия OpenShell 0.1.0 вышла в составе Open Agent Safety Platform вместе со сторожем Sentry на BlueField-4, а для подключения приложений есть SDK для Python, TypeScript, Go и Rust.

Поставлять фабрики DSX POD по всему миру NVIDIA собирается в начале 2027 года вместе с 17 партнёрами: Anduril, Armada, Bull, Crusoe, DayOne, Dell Technologies, Delta, Eaton, Foxconn (Ingrasys), GIGABYTE, HPE, Lenovo, Pegatron, Quanta Cloud Technology, Schneider Electric, Vertiv и Wistron.