Surface Laptop Ultra тянет локальные модели, пока в розетке

Microsoft обещает, что на батарее Surface Laptop Ultra сохраняет 99,6% производительности. На локальных моделях выходит иначе. Стоит отключить зарядку на 140 Вт, и 4-битная Qwen 3.8 27B проседает с 25–28 до примерно 18 токенов в секунду.

Эти цифры получил автор обзора в The New Stack. Неделю он работал на ноутбуке, в том числе в поездках, и взял топовую конфигурацию за 4300 долларов: платформа Nvidia RTX Spark на чипе N1X, GPU Blackwell до 6144 ядер, процессор до 20 ядер, 64 ГБ единой памяти и SSD на 1 ТБ. Дома он пользуется Mac Studio на M4 Max с 48 ГБ памяти. На ноутбук поставил привычный набор: Unsloth Studio, Ollama, Hermes Agent. Ощущения компромисса, по его словам, не было, а Blackwell обычно работал даже чуть быстрее Mac Studio.

Скорость от сети

Nemotron 3.5 Bolt вышла на той же неделе, что и обзор, и отвечала со скоростью 56–60 токенов в секунду, иногда быстрее. Автор считает её хорошим вариантом для Hermes Agent или OpenCode, но оговаривается, что модель сильно квантована и активных параметров у неё всего 9B, так что высокой скорости стоило ожидать.

С плотной Qwen 3.8 27B в 8-битной квантизации картина другая: в Unsloth Studio она ни разу не поднялась выше 8–9 токенов в секунду. Автор называет это почти непригодным для работы. Переход на 4 бита дал уже приличные 25–28. Gemma 4 26B-A4B в 8 битах держалась около 40 токенов в секунду.

Разница объясняется устройством моделей. Плотная модель на каждый токен прочитывает из памяти все свои веса, и скорость упирается в пропускную способность памяти. В смеси экспертов (MoE) на токен работает только часть сети, поэтому читать приходится намного меньше. Потолок у этого ноутбука, по данным BottleneckCalcs, около 301 ГБ/с: память LPDDR5X-9400 на 256-битной шине, общая для CPU и GPU. С M5 автор сам не сравнивал, но ссылается на Tom's Hardware: там Ultra в ИИ-задачах обычно обходит M5 Max в MacBook Pro.

На батарее

По оценке автора, на батарее ИИ-нагрузки теряют около 20–25% скорости, и в играх просадка почти такая же. Nemotron 3.5 Bolt опускалась до 42–45 токенов в секунду. Если пересчитать его же цифры по каждой модели, разброс выходит шире. У Nemotron потеря от 20% (56 против 45) до 30% (60 против 42). У 4-битной Qwen от 28% (25 против 18) до 36% (28 против 18), то есть плотная модель страдает заметнее среднего, которое называет автор.

Для N1X это ожидаемо. В ноутбуках производительный вариант чипа рассчитан на 45–80 Вт, а GB10 в DGX Spark проектировали под мощность до 140 Вт. В IEEE Spectrum предупреждали, что ноутбуки, скорее всего, будут потреблять меньше и это может снизить производительность в зависимости от того, как её настроит производитель. В Windows за питание и нагрев на RTX Spark отвечает Microsoft Power and Thermal Framework, и, судя по всему, именно здесь определяется, сколько скорости отдаётся на батарее.

Автономность автор формально не замерял. Microsoft обещает 12 часов активного веб-сёрфинга. При постоянной ИИ-нагрузке он ждёт от батареи не больше нескольких часов.

64 или 128 ГБ

С 64 ГБ получается странная ситуация. Большинство небольших моделей сейчас укладываются в класс 27–30B, и лишняя память идёт в запас под KV-кеш (сохранённые промежуточные данные контекста) и под другие приложения. А моделей на 32–48 ГБ, которые этот объём тоже вытянул бы, немного. Конфигурация со 128 ГБ стоит 5900 долларов, на 1600 дороже протестированной. Отличаются ли две версии чем-то кроме памяти, в обзоре не сказано.

Шум

Microsoft заявляет до 1 петафлопса ИИ-производительности в FP4, и эта мощность греет корпус. Два вентилятора шумят не запредельно, но достаточно, чтобы раздражать, особенно когда Hermes или агент для кода долго разбирает сложный запрос. Автор напоминает, что у Surface RTX Spark Dev Box на той же платформе N1X «тысяча» вентиляционных отверстий, и предполагает, что настольная коробка выжмет из чипа больше, чем ноутбук. В обычной работе вентиляторы в основном не включаются, а после снятия нагрузки с GPU быстро затихают.

Остальное в обзоре касается не ИИ. Ноутбук весит 2 кг. Из портов есть два USB-C, USB-A, HDMI, разъём для наушников и кардридер SD. Экран 15 дюймов 3270×2180 в пропорции 3:2, яркий, но сильно бликует. Windows на ARM, по словам автора, стала заметно стабильнее, чем год назад, и разработчики, например OpenCode, всё чаще выпускают десктопные версии под ARM64.

SSD можно заменить: снизу четыре винта, и вскрытие ноутбука не лишает гарантии.