Локальный агент Perplexity требует DGX Spark

Perplexity вместе с Nvidia вынесла агента Computer на десктоп: Portable Computer работает на локальных моделях и требует либо десктопа DGX Spark за 4800 долларов, либо ПК с картой Nvidia RTX и минимум 24 ГБ видеопамяти. О запуске Perplexity сообщила в Threads, детали архитектуры изложены в брифинге для The New Stack.

Коротко

• Оркестратор агентного цикла реализован детерминированным кодом, а не отдельной моделью: локальная модель предлагает действие, а оркестратор собирает контекст, применяет политики и выполняет одобренные вызовы инструментов в песочнице уровня ОС.
• По данным Perplexity, на тесте ParseBench-100 из 100 задач по графикам, версткам, таблицам, тексту и форматированию Computer получил 65,1%, тогда как Hermes набрал 34,6%, а Pi 13,9%.
• Portable Computer доступен подписчикам Pro, Max, Enterprise Pro и Enterprise Max, а завершенные локально задачи не расходуют кредиты, пока агенту не приходится обращаться к облачным моделям Perplexity.

Порог входа выглядит главным ограничением: полностью локальный агент оказывается доступен только тем, кто уже вложился в дорогое ускорительное железо, тогда как сама идея приватной обработки документов адресована куда более широкой аудитории. Показателен и разрыв в результатах на одинаковой базовой модели: качество агентного продукта сейчас определяется обвязкой не меньше, чем весами, и Perplexity, судя по всему, продает именно готовую обвязку вместе с песочницей и коннекторами.

Portable Computer запускается только на DGX Spark или на RTX с 24 ГБ видеопамяти

Вариантов запуска два: десктоп DGX Spark от Nvidia под DGX OS либо обычный ПК на Ubuntu, ARM или x64, с картой Nvidia RTX и минимум 24 ГБ видеопамяти. По данным The New Stack, даже старая RTX 3090 с 24 ГБ памяти сейчас обходится заметно дороже 1500 долларов, и дешеветь такие карты в ближайшее время не будут.

На старте доступны две модели: Qwen3.8-27B и PPLX 27B, дообученная Perplexity версия той же базы. Nemotron 3.5 Lightning от Nvidia добавят позже. Portable Computer собран на основе облачного агента Computer, но обвязку и конфигурацию моделей переделали под локальное железо, говорит вице-президент Perplexity по направлению Computer Enterprise and Infrastructure Нейт Купп: команде пришлось пересмотреть почти весь стек.

На одинаковой базе Qwen3.8-27B обвязка Perplexity набрала 82,6% против 77,6% у Pi

Основная инженерная работа пришлась на обвязку: модель должна планировать задачу, вызывать инструменты, управлять файлами, выполнять shell-команды и обрабатывать PDF при заметно меньшем числе параметров, чем облачные модели Perplexity. По данным Perplexity, Qwen3.8-27B заявлен с окном в 260 000 токенов, но начинает буксовать после 100 000, поэтому базовый промпт и набор инструментов держат компактными, а дополнительные навыки подгружаются по мере необходимости.

Часто используемые коннекторы в Perplexity превратили в утилиты командной строки, чтобы не отдавать модели полные описания Model Context Protocol. На внутреннем Local Knowledge Work Bench из 53 задач связка на DGX Spark с базовой моделью Qwen3.8-27B набрала 82,6% против 77,6% у Pi и 74% у Hermes; этот бенчмарк Perplexity обещает открыть.

Выход задачи в облако требует подтверждения пользователя

Каждая задача стартует на локальной машине пользователя, а агент работает в песочнице уровня операционной системы, которая ограничивает процессы, пути в файловой системе и сетевой доступ. Если песочница недоступна, обвязка отключает себя до любых вызовов инструментов, вместо того чтобы выполнять их вне изоляции.

Если локальная модель не справляется с шагом, она может запросить совет у облачной: обвязка отбирает нужный контекст, помечает потенциально чувствительные данные, показывает пользователю, что именно покинет устройство, и запрашивает подтверждение. Облачная модель возвращает текстовые рекомендации, но не получает доступа к файлам и инструментам машины, а исполнением по-прежнему управляет локальный оркестратор.

В Portable Computer встроены коннекторы к Google Drive, Gmail, Slack и GitHub; веб-поиск и обращения к коннекторам уходят с устройства, тогда как инференс и обработка приватных документов, по заявлению Perplexity, остаются локальными. На демонстрациях агент разобрал папку с налоговыми документами на DGX Spark и проанализировал локальный CSV, опубликовав результат в Slack.

Когда появится поддержка Windows

Поддержку Windows обещают в сентябре, версии для macOS нет, включая новые машины Apple. По словам Куппа, Perplexity сейчас сосредоточена на оборудовании Nvidia, линейках DGX и RTX, но рассматривает и другие платформы; при этом пользователи могут подключать собственные модели и серверы инференса. Сроки появления Nemotron 3.5 Lightning от Nvidia и публикации внутреннего бенчмарка из 53 задач не называются.