Microsoft Surface Laptop Ultra for Business — это первый ноутбук Surface, построенный на базе процессоров NVIDIA, и первая система RTX Spark, которую мы обозревали. Наш экземпляр оснащен полным набором компонентов: 20-ядерным процессором Grace Arm, 6,144-ядерным графическим процессором Blackwell RTX и 128 ГБ унифицированной памяти LPDDR5X, при этом пользователь может выделить до 96 ГБ для графического процессора. В потребительском магазине Microsoft представлены конфигурации от 2,599.99 долларов США за 18-ядерную модель с 24 ГБ оперативной памяти и SSD-накопителем на 512 ГБ до 5,899.99 долларов США за 20-ядерную модель с 128 ГБ оперативной памяти и SSD-накопителем на 1 ТБ. Цены на нашу бизнес-конфигурацию на момент обзора были недоступны.
В этом обзоре рассматриваются результаты тестирования N1X в бенчмарках: локальный ИИ, процессор, память, игры, охлаждение и хранилище, в сравнении с четырьмя современными 64-разрядными ноутбуками на базе процессоров Intel Panther Lake и Arrow Lake H, AMD Strix Point, а также видеокарт NVIDIA RTX 5090 и RTX PRO 2000. Дизайн, дисплей, клавиатура, время автономной работы и остальные впечатления от аппаратной части будут представлены позже, после завершения тестирования корпуса в лаборатории, поэтому далее мы расскажем о платформе и результатах.
20-ядерный процессор N1X выиграл почти все многопоточные тесты в группе, обычно с преимуществом в 30 процентов и более, и он позволяет пользователю управлять графическим процессором NVIDIA с помощью 64 ГБ памяти, больше, чем у любого предыдущего графического процессора NVIDIA для ноутбуков, что обеспечивает приемлемую скорость работы модели с 35 параметрами. Тем не менее, длительное решение задач с двойной точностью на всех ядрах трижды за вечер снижало энергопотребление этого ноутбука, после того как предыдущий тестовый образец вышел из строя аналогичным образом и был заменен, поэтому раздел, посвященный тепловому режиму, более критичен, чем обычно.
Основные выводы
- 64 ГБ видеопамяти, с возможностью расширения до 96 ГБ, влияют на то, что запускается: gpt-oss:20b и Qwen3.6-35B-A3B загружаются и генерируют токены со скоростью от 58 до 89 токенов в секунду; RTX 5090 в Blade 16 в 2.3 раза быстрее на любом устройстве с 24 ГБ оперативной памяти, за исключением более крупных моделей.
- Самый быстрый многоядерный процессор в этой группе: 6,963 балла в многоядерном тесте Cinebench 2026, что на 34 процента больше, чем у Razer Blade 16, и на 47 процентов больше, чем у Dell Pro Precision 5 16S, при этом компиляция LLVM заняла 206 секунд против 327 секунд у следующей по скорости системы.
- Пропускная способность памяти 122 ГБ/с, но с учетом задержки: Потоковая обработка данных в STREAM Triad достигла скорости 122 114 МБ/с, что на 48 процентов больше, чем у Precision 5 16S, при этом задержка памяти составила 251 нс, а межъядерная задержка — 172 нс, что является худшим показателем в группе и проявляется при однопоточной работе.
- Одна из нагрузок приводит к отключению электроэнергии: Решение задачи OpenBLAS LU на всех ядрах при N=20000 трижды выключало устройство 14 октября при температуре 95 °C, после того как в других тестах чип выдерживал температуру 98 °C в течение 31 минуты. Два устройства Surface Laptop Ultra вышли из строя аналогичным образом; данные из логов указывают на проблему с питанием или защиту прошивки, а не на перегрев.
- В Windows на архитектуре Arm ограничения на произвольный ввод-вывод: Накопитель Gen5 SK hynix обеспечивает последовательное чтение со скоростью 14.1 ГБ/с и 1.67 млн операций ввода-вывода в секунду непосредственно с устройства, но при использовании файловой системы NTFS и BitLocker случайные операции ввода-вывода размером 4K останавливаются на уровне около 300 тыс. операций ввода-вывода в секунду, что ниже, чем у половины систем x64.
Платформа RTX Spark N1X
RTX Spark — это название NVIDIA для семейства ПК под управлением Windows, построенных на суперчипе N1X, — это ноутбуки и компактные настольные аналоги GB10 в линейке DGX Spark . Мы рассказывали об этом семействе на Computex в июне , а подробности о запуске и предварительных заказах появились на прошлой неделе, поэтому в этом разделе рассматривается то, что важно для понимания результатов.
NVIDIA предлагает два варианта ноутбуков N1X; топовая модель оснащена 20-ядерным процессором Grace, 6,144-ядерным графическим процессором Blackwell RTX и до 128 ГБ оперативной памяти LPDDR5X; вторая — 18-ядерным процессором, 5,120-ядерным графическим процессором и 64 ГБ оперативной памяти. Оба варианта имеют TDP от 45 до 80 Вт, включая процессор и графический процессор, по сравнению со 140 Вт у настольной модели N1X и GB10. Наш Surface оснащен 20-ядерным процессором, который, по данным Windows, имеет 10 более быстрых ядер и 10 энергоэффективных ядер без технологии SMT.
Память — вот что отличает эту платформу от всех 64-разрядных ноутбуков в этом обзоре, поскольку один пул LPDDR5-9400 объемом 128 ГБ обслуживает обе половины чипа через NVLink-C2C, и на 256-битном интерфейсе 9,400 МТ/с соответствует примерно 300 ГБ/с теоретической пропускной способности. Windows представляет её как дискретную карту с фиксированным выделенным объемом и общим пулом.
На нашем экземпляре мы установили соотношение 64/64: программа тестирования показала 62.5 ГБ доступной для GPU памяти, что позволяет использовать ноутбук в обоих наших локальных тестах моделей ИИ. Объем памяти LPDDR5X можно настроить пользователем через приложение NVIDIA, хотя он, очевидно, ограничен общим объемом, выбранным при покупке системы. Таким образом, Surface с 32 ГБ или 48 ГБ памяти не покажет одинаковых результатов в тестах ИИ, если в память не поместится такая же большая модель.
В качестве графического процессора используется Blackwell с тензорными ядрами пятого поколения и ядрами RT четвертого поколения, одним NVENC девятого поколения и одним NVDEC шестого поколения, а также обычная для NVIDIA вычислительная мощность FP4 «до 1 петафлоп», которую в сносках Microsoft описывают как теоретическую производительность FP4 TOPS с разреженностью. Все тесты NVIDIA в этом обзоре проводились на CUDA с использованием нативных сборок Arm64 файлов llama.cpp и Ollama, с драйвером в том виде, в котором он поставляется, версия 32.0.16.1742.
Windows — это вторая важная половина платформы. На Surface установлена Windows 11 Pro 26H1 на архитектуре Arm64, поэтому 64-разрядные приложения работают через эмуляцию Prism, и мы создали весь наш клиентский пакет с использованием нативных бинарных файлов Arm64, чтобы результаты тестирования процессора сравнивали характеристики кремниевых компонентов, а не уровней трансляции. В тех случаях, когда нативный порт Arm64 еще не разработан или сборка x64 является единственным вариантом, мы указываем это в результатах, поскольку эти случаи определяют несколько строк ниже.
Технические характеристики Microsoft Surface Laptop Ultra для бизнеса
| Параметр | Microsoft Surface Laptop Ultra для бизнеса |
|---|---|
| Обзор платформы | |
| процессор | NVIDIA RTX Spark N1X, 20-ядерный процессор Grace и 6,144-ядерный графический процессор Blackwell RTX (по результатам тестирования). NVIDIA RTX Spark N1X, 18-ядерный процессор Grace и 5,120-ядерный графический процессор Blackwell RTX. |
| НПУ | NVIDIA NPU |
| Память | 24 ГБ, 32 ГБ, 48 ГБ, 64 ГБ или 128 ГБ унифицированной памяти LPDDR5X 128 ГБ LPDDR5-9400, разделение прошивки на 64/64 ГБ (как в ходе тестирования) |
| Память | Съемный SSD-накопитель: 512 ГБ (PCIe Gen4), 1 ТБ или 2 ТБ (PCIe Gen5) 1 ТБ SK hynix HFS001TFM9X189N, Gen5 x4 (как протестировано) |
| Operating System | Windows 11 Pro (Arm64); Windows 11 Home на конфигурации с 24 ГБ оперативной памяти. |
| Дисплей и ввод/вывод | |
| Дисплей | 15-дюймовый сенсорный экран PixelSense Ultra, разрешение 3270 x 2180, частота обновления до 120 Гц, 100% охват цветового пространства DCI-P3, Dolby Vision IQ 1,000 нит SDR (типичное значение), 2,000 нит HDR пиковое значение (данные Microsoft) |
| Порты | 2x USB-C / USB4 1x USB-C / USB4 с магнитным разъемом 1x HDMI 2.1b 1 порта USB-A 3.1 устройства для чтения карт памяти SD разъем для наушников 3.5mm |
| Беспроводной сети | Wi-Fi 7 (MediaTek MT7925), Bluetooth |
| камера | 1080p Full HD |
| Сила и Физическая | |
| Время автономной работы (по заявлению Microsoft) | До 15 часов воспроизведения локального видео. До 12 часов активного использования веб-сайта (Предсерийный образец с 20 ядрами, 64 ГБ оперативной памяти и 1 ТБ SSD-накопителем, яркость 150 нит) |
| Зарядка | USB-C; быстрая зарядка с помощью источника питания Surface или USB-C PD мощностью 115 Вт или выше. |
| Вес | 4.41 фунтов (2.0 кг) |
| Цвета | Платина, Сумерки |
| Безопасность и цены | |
| Безопасность. | Защищенный ПК, Windows Hello, шифрование устройства (BitLocker XTS-AES-128 на нашем устройстве) |
| Цена (магазин Microsoft для потребителей) | от 2,599.99 долларов США (18-ядерный, 24 ГБ, 512 ГБ) до 5,899.99 долларов США (20-ядерный, 128 ГБ, 1 ТБ, протестированная версия). |
Настройка теста и методология
Наш тестовый образец работает на видеокарте RTX Spark N1X с 6,144-ядерным графическим процессором Blackwell, 128 ГБ оперативной памяти LPDDR5-9400, распределенной в соотношении 64/64 между системой и видеокартой, и твердотельным накопителем SK hynix Gen5 объемом 1 ТБ под управлением Windows 11 Pro 26H1 (Arm64). Тестирование производительности проводилось в режиме максимальной производительности и при подключении к сети. Результаты тестирования времени автономной работы будут добавлены позже вместе с остальными впечатлениями от оборудования.
Каждая система в этом сравнении была протестирована с помощью sr-client 1.2, нашего скриптового пакета тестов для клиентов Windows, в полном режиме и в пиковом профиле. Каждая система тестировалась на заводском образе Windows с драйверами и утилитами OEM-производителя, в режиме максимальной производительности от производителя и при подключении к сети. Пакет тестов применяет те же лабораторные настройки: режим питания Windows в режиме «Максимальная производительность», яркость дисплея 50%, все таймеры сна и выключения дисплея отключены, а брандмауэр Windows и запросы UAC отключены. Тестирование проходит в автоматическом режиме от начала до конца; каждый результат представляет собой медиану повторных прохождений, и пакет тестов повторно запускает тест, разброс результатов которого превышает 2%, прежде чем принять его.
Пакет программ был написан с использованием нативных бинарных файлов Arm64 и x64 для каждой рабочей нагрузки с открытым исходным кодом, чтобы Surface мог конкурировать по характеристикам кремниевых чипов.
| Система | ЦП | Память | Графический процессор используется для тестов графического процессора и искусственного интеллекта. | SSD | ОС и режим производительности |
|---|---|---|---|---|---|
| Microsoft Surface Laptop Ultra | NVIDIA RTX Spark N1X, 20 ядер / 20 потоков | 128 ГБ LPDDR5-9400 (разделение 64/64) | 6,144-ядерный процессор Blackwell RTX (интегрированный, 62.5 ГБ доступного памяти) | SK hynix HFS001TFM9X 1TB, Gen5 x4 | Windows 11 Pro 26H1 (Arm64), оптимальная производительность. |
| Dell Pro Precision 5 16S | Процессор Intel Core Ultra X9 388H, 16 ядер / 16 потоков | 64GB LPDDR5-8533 | Intel Arc Pro B390 (интегрированная плата) | SK hynix PCB01 1TB, Gen5 x4 | Windows 11 Pro 25H2 (x64), Dell Optimizer Ultra Performance |
| Dell Pro 7 14 | AMD Ryzen AI 9 HX PRO 470, 12 ядер / 24 потока | 64GB LPDDR5-8000 | AMD Radeon 890M (интегрированная видеокарта, 32 ГБ VGM) | Samsung BM9C1a 1 ТБ, Gen4 x4 | Windows 11 Pro 25H2 (x64), профиль производительности Dell для охлаждения. |
| Razer Клинок 16 | AMD Ryzen AI 9 HX 370, 12 ядер / 24 потока | 32GB LPDDR5-8000 | Видеокарта NVIDIA GeForce RTX 5090 для ноутбука, 24 ГБ | Samsung MZVL22T0 2TB, Gen4 x4 | Windows 11 Home 25H2 (x64), Razer Synapse Performance |
| Dell Pro Max 14 Premium | Intel Core Ultra 9 285H, 16 ядер / 16 потоков | 64GB LPDDR5-8400 | Видеокарта NVIDIA RTX PRO 2000 Blackwell для ноутбука, 8 ГБ | SK hynix PC811 2TB | Windows 11 Pro 25H2 (x64), Dell Optimizer Ultra Performance |
В таблицах повторяются три обозначения, и разница между первыми двумя важна для понимания раздела об ИИ. DNF означает, что тест начался на данной системе и не завершился, или был пропущен после сбоя, что в данном обзоре относится к запуску OpenBLAS на Surface и сценариям агентного MLPerf на Dell Pro 7 14.
«Не запущено» означает, что тестовый пакет отказался начать тестирование, поскольку оборудование не соответствует требованиям, чаще всего из-за того, что модель превышает объем памяти графического процессора, который может предложить система; 7.7 ГБ доступной памяти графического процессора у Dell Pro Max 14 Premium исключают его из всех тестов загрузки моделей и агентов, а 24 ГБ у Blade 16 оставляют его ниже моделей нашего уровня M. «N/A» означает, что тест неприменим, например, одноядерный SMT на чипе без SMT.
Локальная производительность ИИ
На этих ноутбуках локальный ИИ сводится к двум вопросам: насколько быстро графический процессор может обрабатывать модель и помещается ли модель вообще в его память. RTX 5090 в Blade 16 лучше всего отвечает на первый вопрос, генерируя токены примерно в 2.3 раза быстрее, чем Surface, на каждой модели, которая помещается в его 24 ГБ памяти. Surface отвечает на второй вопрос, потому что, имея 64 ГБ унифицированной памяти, выделенной графическому процессору, это единственная система, которая запускает наши модели уровня M с приемлемой скоростью.
8-гигабайтная видеокарта RTX PRO 2000 в Pro Max 14 справляется с задачами Surface в компактных моделях, но оказывается слишком слабой для более крупных, а две интегрированные видеокарты в 64-разрядной системе обеспечивают работу всего, хотя и медленно.
MLPerf Client v2.0
MLPerf Client запускает Llama 3.1 8B и Phi-4-mini по пяти категориям заданий (генерация контента, креативное письмо, составление резюме, структурированный текст и анализ кода) и сообщает время до первого токена и скорость генерации токенов после первого токена в виде геометрического среднего по всем этим категориям. Каждая система использует графический процессор своего производителя: Intel OpenVINO на Precision 5 16S, AMD Windows ML с DirectML на Pro 7 14 и llama.cpp с CUDA на трех системах NVIDIA, поэтому движки различаются, и строки сравнивают платформы в том виде, в котором они поставляются.
| MLPerf Client v2.0 | Surface Laptop Ultra | Dell Pro Precision 5 16S | Dell Pro 7 14 | Razer Клинок 16 | Dell Pro Max 14 Premium |
|---|---|---|---|---|---|
| Llama 3.1 8B, время до первого токена, геометрическое среднее (с, чем меньше, тем лучше) | 0.284 | 0.214 | 3.140 | 0.149 | 0.439 |
| Phi-4-mini, время до первого токена, геометрическое среднее (s, чем ниже значение, тем лучше) | 0.127 | 0.181 | 1.954 | 0.074 | 0.212 |
| Специалист по анализу данных, комплексное обслуживание (s, чем ниже значение, тем лучше) | 52.6 | 84.7 | DNF | 27.8 | 61.8 |
| Агент по анализу данных, курс токенов (ток/с) | 48.9 | 25.6 | DNF | 108.3 | 45.4 |
| Агент по разработке программного обеспечения, комплексное обслуживание (s, чем ниже значение, тем лучше) | 46.0 | 65.6 | DNF | 24.6 | 52.6 |
| Агент SWE, курс токена (ток/с) | 46.4 | 25.0 | DNF | 102.5 | 42.8 |
Blade 16 показал в Llama 3.1 8B скорость 128.8 ток/с и в Phi-4-mini 222.7 ток/с, что в 2.3 раза выше, чем у Surface (56.4 и 97.5). RTX PRO 2000 в Pro Max 14, несмотря на значительно меньшую пропускную способность, чем у 5090, всё же показал результаты, отличающиеся от Surface всего на 5 процентов в Llama 3.1 и менее чем на 12 процентов в Phi-4-mini, что говорит о том, что интегрированный графический процессор N1X работает по принципу небольшой дискретной карты в моделях такого размера.
Среди интегрированных графических процессоров x64, Arc Pro B390 в Precision 5 16S быстро обработал первый токен в Llama 3.1, но вдвое медленнее, чем в Surface, а путь DirectML в Pro 7 14 оказался самым медленным и занял 3.1 секунды на обработку первого токена.
В тестах MLPerf агенты Llama 3.1 8B работают как агент разработки программного обеспечения и агент анализа данных, каждый из которых вызывает инструменты в течение нескольких ходов. Blade 16 справился с обоими сценариями менее чем за 28 секунд, что вдвое меньше времени, чем у Surface, и менее чем в три раза меньше, чем у Precision 5 16S. Pro 7 14 не смог завершить ни один из сценариев: DirectML выдал ошибку нехватки памяти при запросах агентов, даже при наличии 32 ГБ, зарезервированных для графического процессора, что является ошибкой и по этой причине отмечено как DNF (не завершено).
Загрузка модели
Этот тест измеряет скорость чтения локальной модели с SSD до первого сгенерированного токена в Ollama, как в холодном состоянии (кэш файлов очищен), так и в теплом (файл уже находится в памяти), и сообщает, как быстро происходило чтение с SSD в этот момент. Уровень S использует gpt-oss:20b (12.8 ГБ) на системах с как минимум 16 ГБ доступной для GPU памяти; уровень M добавляет Qwen3.6-35B-A3B (21.1 ГБ) на системах с примерно 40 ГБ или более. Тест подкачки загружает Qwen3.6, переключается на gpt-oss и измеряет время возврата к Qwen3.6.
| Загрузка модели (отображение памяти включено) | Surface Laptop Ultra | Dell Pro Precision 5 16S | Dell Pro 7 14 | Razer Клинок 16 | Dell Pro Max 14 Premium |
|---|---|---|---|---|---|
| gpt-oss:20b, пропускная способность чтения при холодной загрузке (МБ/с) | 3,080 | 3,251 | 1,246 | 3,874 | Не запущено (7.7 ГБ видеопамяти) |
| Qwen3.6-35B-A3B, перезарядка после смены модели (s, чем ниже значение, тем лучше) | 5.01 | 13.38 | 22.38 | Не запущено (24 ГБ видеопамяти, уровень ниже M) | Не запущено (7.7 ГБ видеопамяти) |
Холодная загрузка — это тест на скорость хранения данных, и две системы Gen5 показали в них лучшие результаты: Precision 5 16S довел gpt-oss:20b до первого токена за 5.98 секунды, а Surface — за 6.57. Surface выиграл все тесты на скорость и уровень M, а его возвращение к Qwen3.6 за 5.0 секунд после замены, против 13.4 секунд у Precision, объясняется тем, что обе модели работают в 64 ГБ видеопамяти. Blade 16 быстрее всех прочитал файл модели — 3.9 ГБ/с, но достиг первого токена позже, потому что весовые коэффициенты должны передаваться через PCIe в видеопамять, в то время как в системах с унифицированной памятью они находятся на месте сразу после чтения.
Отсутствие данных о памяти в Blade 16 и Pro Max 14 связано с проблемой памяти. Blade 16 не соответствует уровню M с 24 ГБ видеопамяти, а 7.7 ГБ доступной памяти графического процессора в Pro Max 14 вообще не соответствуют ни одному уровню, поэтому тесты на них так и не начались. SSD-накопитель Pro 7 14, проблема с записью которого описана в разделе о хранилище, показал скорость чтения всего 1.2 ГБ/с и потребовал 13.7 секунд в холодном состоянии.
Кодирующий агент
Codex CLI управляет локальной моделью, предоставляемой Ollama, с помощью фиксированной задачи кодирования в закрепленном репозитории; запуск считается успешным, если все 11 тестов репозитория пройдут успешно. Мы сообщаем медианное время выполнения трех запусков, количество успешных запусков и скорость генерации. Тест «агент рядом с пользователем» запускает агента и Speedometer вместе и сообщает, насколько замедляется каждый из них по сравнению с выполнением задачи по отдельности, что является важным вопросом, если агент работает, пока вы находитесь рядом.
| Агент кодирования Codex CLI | Surface Laptop Ultra | Dell Pro Precision 5 16S | Dell Pro 7 14 | Razer Клинок 16 | Dell Pro Max 14 Premium |
|---|---|---|---|---|---|
| Уровень S, gpt-oss:20b 64K: время выполнения (с, чем меньше, тем лучше) | 191.8 | 584.2 | 376.0 | 64.4 | Не запущено (7.7 ГБ видеопамяти) |
| Уровень S: успехи (из 3) | 3 | 3 | 2 | 2 | Не запущено |
| Уровень M, gpt-oss:20b 128K: время выполнения (с, чем меньше, тем лучше) | 87.5 | 276.1 | 585.4 | Не запущено (ниже уровня M) | Не запущено |
| Уровень M, gpt-oss:20b 128K: успешных (из 3) | 2 | 2 | 3 | Не запущено | Не запущено |
| Уровень M, Qwen3.6-35B-A3B 64K: время отклика (с, чем меньше, тем лучше) | 88.6 | 351.7 | 678.2 | Не запущено (ниже уровня M) | Не запущено |
| Уровень M, Qwen3.6-35B-A3B 64K: успехи (из 3) | 3 | 3 | 3 | Не запущено | Не запущено |
| Спидометр рядом с агентом (счет) | 18.1 | 26.6 | 19.2 | 36.3 | Не запущено |
| Индикатор замедления спидометра рядом с агентом (x, чем ниже значение, тем лучше) | 1.92 | 1.61 | 1.92 | 1.06 | Не запущено |
| Замедление работы агента отображается рядом со спидометром (x, чем ниже значение, тем лучше). | 1.10 | 1.00 | 1.11 | 1.05 | Не запущено |
Ноутбук Blade 16 завершил задачу уровня S за 64 секунды со скоростью 137.9 ток/с, что в три раза быстрее, чем Surface, и в девять раз быстрее, чем Precision 5 16S, хотя он прошел два из трех испытаний, в то время как Surface и Precision — три. На уровне M Surface выполнил обе задачи менее чем за 90 секунд, в три-четыре раза быстрее, чем Precision 5 16S, и в семь-восемь раз быстрее, чем Pro 7 14, которому потребовалось от 10 до 11 минут на задачу. Общее время также зависит от количества вызовов инструментов, которые выполняет модель, поэтому скорость генерации является более точным показателем аппаратного обеспечения.
Тест на параллельное выполнение — вот где дискретная видеокарта показывает себя с лучшей стороны. При работающем агенте оценка браузера на Blade 16 упала на 6 процентов, поскольку модель использует RTX 5090 и не задействует центральный процессор. На Surface, где агент использует интегрированный графический процессор и шину памяти совместно со всеми остальными устройствами, оценка Speedometer снизилась почти вдвое, с 34.7 до 18.1, и Pro 7 14 потерял ту же долю. Сам агент практически не влиял на работу браузера ни на одной из систем.
Поисково-дополненная генерация
Наш тест RAG использует 20 963 фрагмента текста SQuAD v1.1 с помощью функции nomic-embed-text, извлекает пять лучших фрагментов для каждого из 2,000 вопросов и отвечает на них с помощью алгоритма Phi-4-mini, оценивая точное совпадение и F1-критерий по сравнению с эталонными ответами. На всех системах работают одни и те же небольшие модели, поэтому это чисто скоростное сравнение.
| КГР | Surface Laptop Ultra | Dell Pro Precision 5 16S | Dell Pro 7 14 | Razer Клинок 16 | Dell Pro Max 14 Premium |
|---|---|---|---|---|---|
| Время прохождения пищи через стенку кишечника: 20 963 прохода (с, чем ниже значение, тем лучше). | 189.8 | 271.7 | 425.9 | 131.0 | 153.9 |
| Время выполнения запроса, p50 (мс, чем меньше, тем лучше) | 23.4 | 22.2 | 31.3 | 20.9 | 21.6 |
| Ответ: время Phi-4-mini до первого токена, p50 (с, чем меньше, тем лучше). | 0.161 | 0.855 | 1.527 | 0.109 | 0.260 |
| Ответ, быстрая обработка (ток/с) | 6,955 | 2,151 | 863 | 11,560 | 4,031 |
| Вопрос для ответа, стр. 50 (s, чем ниже, тем лучше) | 0.235 | 0.997 | 1.688 | 0.159 | 0.341 |
| Ответ F1 (%) | 73.97 | 74.24 | 74.36 | 74.47 | 74.40 |
Ноутбук Blade 16 обработал корпус данных за 131 секунду и ответил на типичный вопрос за 0.16 секунды, что в шесть раз быстрее, чем Precision 5 16S. Pro Max 14 занял второе место по скорости обработки — 154 секунды, опередив Surface (190 секунд), поскольку 8 ГБ достаточно для модели встраивания и Phi-4-mini. Точность была одинаковой с точностью до половины пункта (F1) на всех системах, как и должно быть с одинаковыми моделями при нулевой температуре, поэтому единственное, что отличает эти ноутбуки в RAG, — это время ожидания.
Производительность процессора
Результаты по производительности процессоров определяются двумя платформами: 20-ядерный N1X в Surface выигрывает почти во всех многопоточных тестах, часто с преимуществом в 30 процентов и более, в то время как Core Ultra X9 388H в Dell Pro Precision 5 16S является самым быстрым процессором x64 в однопоточном режиме и лидирует в работе с Python, браузером и OpenBLAS. В целом, Ryzen AI 9 HX 370 в Razer Blade 16 побеждает в Stockfish и GROMACS и занимает второе место в большинстве тестов рендеринга и сборки, а Dell Pro 7 14 и Dell Pro Max 14 Premium отстают в работе со всеми ядрами.
Cinebench 2026 и устойчивая нагрузка
В тесте Cinebench 2026 сцена обрабатывается процессором Maxon Redshift, а результаты оцениваются в одноядерном режиме, в одноядерном режиме SMT (два потока на одном физическом ядре) и в многоядерном режиме. Затем мы запускаем цикл, повторяющий многоядерный режим в течение примерно 30 минут, и сравниваем результаты в установившемся режиме с результатами первого прохода, что показывает, насколько сильно ноутбук теряет в производительности при перегреве.
Surface набрал 6,963 балла в многоядерном режиме, что на 34% больше, чем у Blade 16, и на 47% больше, чем у Precision 5 16S, а также немного опередил Precision по одноядерному результату — 558.5 против 534.8. В однопоточном режиме оба процессора AMD показали худшие результаты: Blade 16 — 480.0, а Pro 7 14 — 464.4, отставая от Surface на 16 и 20 процентов соответственно. Показатель SMT в одноядерном режиме относится только к этим двум моделям, где второй поток добавляет 33% производительности у Pro 7 14 и 38% у Blade 16.
Результаты в течение всего цикла тестирования позволяют лучше оценить ситуацию, чем просто итоговые баллы. Surface завершил десять тестов с результатом 7,016, что на 1 процент выше начального значения, при этом температура процессора все время оставалась на уровне 98 °C и частоте 3.28 ГГц; Blade 16 также показал стабильные результаты. Pro 7 14 и Pro Max 14 потеряли около 2 процентов, а Precision 5 16S снизился на 6.2 процента примерно через 10 минут и остался на этом уровне.
| Cinebench 2026 (баллы, чем выше значение, тем лучше) | Surface Laptop Ultra | Dell Pro Precision 5 16S | Dell Pro 7 14 | Razer Клинок 16 | Dell Pro Max 14 Premium |
|---|---|---|---|---|---|
| Одноядерный | 558.5 | 534.8 | 464.4 | 480.0 | 482.6 |
| SMT одноядерный | ARCXNUMX | ARCXNUMX | 617.1 | 661.3 | ARCXNUMX |
| Многоядерный | 6,963 | 4,739 | 4,028 | 5,179 | 4,160 |
| Замкнутый цикл, первый проход | 6,938 | 4,765 | 4,040 | 5,162 | 4,314 |
| Устойчивая петля, стационарное состояние | 7,016 | 4,468 | 3,976 | 5,206 | 4,228 |
| Стационарное состояние / первый проход | 1.011 | 0.938 | 0.984 | 1.009 | 0.980 |
7-Zip
Встроенный в 7-Zip бенчмарк показывает пропускную способность сжатия и распаковки LZMA в гигаинструкциях в секунду, один раз для каждого потока и один раз, привязанного к одному ядру.
В тесте с использованием всех потоков Surface показал результат 151.0 GIPS, на 20 процентов опередив Blade 16, с показателем сжатия 156.9 GIPS, что на 35 процентов выше, чем у следующей по производительности системы. Precision 5 16S лидировал в тесте с одним потоком, показав результат 9.8 GIPS.
Указанный показатель производительности Surface в однопоточном режиме составляет 7.16 GIPS, однако следует оговориться. На этом устройстве ядро, находящееся под нагрузкой в течение нескольких минут, переходит в более медленное состояние, примерно на 20 процентов от своей первоначальной скорости, и остается в этом состоянии до окончания нагрузки; однопоточные проходы 7-Zip выполняются достаточно долго, чтобы вызвать это снижение температуры (от 47 до 67 °C), поэтому перегрев не является причиной. Аналогичная ситуация наблюдается и в однопоточных запусках PyPerformance и Stockfish, которые следуют в порядке, указанном в этом наборе тестов.
| 7-Zip, один поток (GIPS, чем выше значение, тем лучше) | Surface Laptop Ultra | Dell Pro Precision 5 16S | Dell Pro 7 14 | Razer Клинок 16 | Dell Pro Max 14 Premium |
|---|---|---|---|---|---|
| Всего | 7.16 | 9.80 | 9.01 | 9.24 | 8.84 |
| Сжимать | 4.62 | 8.71 | 6.72 | 7.28 | 7.02 |
| Распаковка | 9.70 | 10.88 | 11.31 | 11.20 | 10.73 |
смеситель
Blender 4.5 выполняет рендеринг трех стандартных тестовых сцен (Monster, Junkshop и Classroom) с использованием Cycles на процессоре и сообщает количество сэмплов в минуту.
Порядок результатов сохранялся во всех трех сценариях: Surface, затем Blade 16, затем Precision 5 16S. Преимущество Surface над Blade 16 составило 47 процентов в сценарии Monster при 207.6 сэмплах в минуту и сократилось до 18 процентов в сценарии Classroom, самом ресурсоемком сценарии, где оно достигло 93.2. Pro 7 14 и Pro Max 14 поменялись местами на последних двух позициях.
HandBrake
HandBrake кодирует 60 секунд видеоролика Big Buck Bunny в формате 4K60 программным способом с использованием кодеков x265 (HEVC, средний пресет, качество 22) и SVT-AV1 (пресет 8, качество 30), отображая количество кадров в секунду.
Результаты двух кодеков показывают совершенно разные показатели Surface. Его результат x265 в 41.7 кадров в секунду превзошёл показатели группы на 25 процентов, но его собственная сборка Arm64 SVT-AV1 показала 15.4 кадров в секунду, что примерно в пять раз меньше, чем у систем x64. Ядра, показавшие лучшие результаты x265, не могут быть в пять раз медленнее, поэтому разница заключается в коде Arm64 в SVT-AV1, и это самый наглядный пример в нашем наборе программного обеспечения, определяющий результат. Среди систем x64 Precision 5 16S показал лучший результат SVT-AV1 — 80.8 кадров в секунду, а Pro Max 14 и Blade 16 — с разницей всего в 5 процентов.
Сборка LLVM
Этот тест компилирует полную ветку LLVM 21.1.4 с помощью Clang и Ninja с количеством заданий по умолчанию. Это самая длительная нагрузка на все ядра в наборе тестов, которая задействует не только процессор, но и память и хранилище.
Surface скомпилировал LLVM за 206.4 секунды, что на 37 процентов быстрее, чем у Blade 16 (327.0 секунды). Показатель Precision 5 16S в 340.1 секунды получен в результате повторного тестирования с отключенной функцией Smart App Control, поскольку эта функция блокировала инструмент при первой попытке. Pro 7 14 показал самый медленный результат — 410.5 секунды.
Stockfish, primesieve, Python и браузер
Встроенный бенчмарк Stockfish сообщает о скорости поиска шахматных чисел в миллионах узлов в секунду. primesieve подсчитывает простые числа меньше 10^12 во всех потоках и меньше 10^11 в одном потоке, время выполнения измеряется в секундах. PyPerformance запускает три бенчмарка CPython (go, nbody и regex_compile), привязанных к одному ядру, и сообщает среднее время на итерацию, а Speedometer 3.1 измеряет отзывчивость веб-приложений в Microsoft Edge.
| Тест | Surface Laptop Ultra | Dell Pro Precision 5 16S | Dell Pro 7 14 | Razer Клинок 16 | Dell Pro Max 14 Premium |
|---|---|---|---|---|---|
| Тест Stockfish, все потоки (Mnps, чем выше значение, тем лучше) | 15.51 | 14.81 | 14.71 | 17.96 | 12.01 |
| Тест Stockfish, один поток (Mnps, чем выше значение, тем лучше) | 1.33 | 1.86 | 1.94 | 2.04 | 1.70 |
| primesieve 1e12, все потоки (s, чем ниже значение, тем лучше) | 9.82 | 11.31 | 14.80 | 10.60 | 14.30 |
| primesieve 1e11, один поток (s, чем ниже, тем лучше) | 12.03 | 9.56 | 6.66 | 6.67 | 9.82 |
| PyPerformance go (мс, чем ниже значение, тем лучше) | 123.9 | 69.2 | 75.9 | 75.2 | 74.1 |
| PyPerformance nbody (мс, чем ниже значение, тем лучше) | 89.8 | 53.2 | 62.3 | 60.8 | 61.3 |
| PyPerformance regex_compile (ms, чем ниже значение, тем лучше) | 94.1 | 65.1 | 71.1 | 69.7 | 69.8 |
| Speedometer 3.1, Edge (оценка, чем выше, тем лучше) | 34.7 | 42.7 | 36.8 | 38.4 | 42.0 |
Stockfish — один из немногих тестов на все ядра, в котором Surface не одержал победу; Blade 16 лидировал в обоих тестах и показал результат на 16 процентов выше по всем потокам, а показатель Surface в однопоточном режиме учитывает особенности медленных ядер, отмеченные в 7-Zip. В другом случае результаты Primesieve оказались лучше: Surface показал самый быстрый результат по всем потокам — 9.82 секунды, а два процессора AMD примерно на 30 процентов быстрее, чем системы Intel, в однопоточном режиме.
В тестах Python и браузеров Precision 5 16S занял первое место, а Pro Max 14 отстал от него всего на 2 процента в Speedometer. Surface занял последнее место во всех четырех тестах. Его тесты PyPerformance проводятся на том же самом ядре, что и 7-Zip, и учитывают медленную работу процессора, а Speedometer сравнивает сборку Edge для Arm64 с 64-разрядными сборками на других платформах, поэтому эти тесты измеряют производительность прошивки и программного обеспечения Surface не меньше, чем производительность его ядер. Результаты однопоточных тестов на этой платформе в совокупности отстают от результатов 64-разрядных систем на 15-30 процентов даже там, где не учитывается медленная работа ядра, и приведенные ниже данные о задержке памяти частично объясняют это.
GROMAC и OpenBLAS
GROMACS запускает задачу молекулярной динамики benchMEM на всех ядрах в четырех вариантах ранжирования и потоков и сообщает о времени моделирования в наносекундах в день; в заголовке указан лучший вариант. Наш тест OpenBLAS запускает решение LU-задач с двойной точностью в стиле HPL для трех размеров задач и умножение матриц DGEMM, каждое на всех ядрах, а также повторно только на самом мощном классе ядер, и это самая ресурсоемкая постоянная нагрузка на вычисления с плавающей запятой в этом наборе тестов.
| Тест | Surface Laptop Ultra | Dell Pro Precision 5 16S | Dell Pro 7 14 | Razer Клинок 16 | Dell Pro Max 14 Premium |
|---|---|---|---|---|---|
| GROMACS benchMEM, оптимальная компоновка (нс/день, чем выше, тем лучше) | 17.29 | 24.87 | 21.58 | 26.41 | 22.74 |
| GROMACS, 1 поток на ранг (нс/день) | 17.21 | 25.01 | 21.58 | 26.59 | 0.84 |
| GROMACS, 2 потока на ранг (нс/день) | 16.80 | 24.02 | 21.22 | 24.83 | 22.88 |
| OpenBLAS DGEMM M=8000, все ядра (GFLOPS, чем выше значение, тем лучше) | DNF | 527.4 | 358.6 | 455.4 | 367.5 |
| OpenBLAS DGEMM M=8000, топовый класс ядер (GFLOPS) | DNF | 262.1 | 228.0 | 252.4 | 266.0 |
| OpenBLAS LU N=10000, все ядра (GFLOPS) | DNF | 435.3 | 384.3 | 400.9 | 194.2 |
| OpenBLAS LU N=20000, все ядра (GFLOPS) | DNF | 503.8 | 375.6 | 454.4 | 327.5 |
| OpenBLAS LU N=40000, все ядра (GFLOPS) | DNF | 459.6 | 397.6 | 498.5 | 394.1 |
| OpenBLAS LU N=40000, класс топовых ядер (GFLOPS) | DNF | 255.2 | 221.9 | 250.9 | 271.6 |
Blade 16 лидировал среди всех конфигураций GROMACS с показателем 26.4 нс/день, а Precision 5 16S отставал на 6 процентов. Surface, доминирующий в других областях, показал самый низкий результат — 17.3 нс/день, поскольку в сборке GROMACS для Arm64 отсутствуют ядра AVX2, используемые в системах x64. Показатель Pro Max 14 — 0.84 нс/день в конфигурации с одним потоком на ранг — является патологическим случаем, когда почти все время работы уходит на межранговое взаимодействие; для сравнения можно использовать его лучший показатель — 22.7 нс/день.
Результаты OpenBLAS для Surface отсутствуют. Решение задачи LU с N=20000 на всех ядрах трижды снижало энергопотребление системы, причем на двух образцах ноутбуков, поэтому мы пропустили этот шаг в финальном запуске, чтобы позволить завершить остальные 29; проблема описана в разделе, посвященном тепловым характеристикам. Среди систем x64 Precision 5 16S лидировал в решении DGEMM на всех ядрах с результатом 527 GFLOPS и в двух меньших решениях LU; Blade 16 показал самый большой результат, а Pro Max 14 был самым быстрым только на своем топовом классе ядер, в то время как добавление энергоэффективных ядер снизило его результат N=10000 до 194 GFLOPS.
Пропускная способность и задержка памяти
STREAM измеряет устойчивую пропускную способность памяти. Задержка памяти использует буфер размером 1 ГБ на страницах по 4 КиБ, а задержка между ядрами измеряет время обмена данными между каждой парой ядер.
| Задержка (нс, чем меньше, тем лучше) | Surface Laptop Ultra | Dell Pro Precision 5 16S | Dell Pro 7 14 | Razer Клинок 16 | Dell Pro Max 14 Premium |
|---|---|---|---|---|---|
| Задержка памяти, страницы по 4 КиБ | 251.1 | 115.5 | 146.7 | 129.6 | 170.7 |
| От ядра к ядру, среднее значение | 171.6 | 88.2 | 49.7 | 57.0 | 58.3 |
| Максимальное количество ядер в сети | 362.6 | 129.4 | 74.6 | 95.9 | 153.1 |
Оперативная память LPDDR5-9400 в Surface обеспечила скорость 122 114 МБ/с в режиме STREAM Triad и 130 516 МБ/с в режиме Copy, что на 48 процентов больше, чем у Precision 5 16S, и примерно в 2.6 раза больше, чем у двух систем AMD. Именно эта пропускная способность во многом объясняет победу N1X в тестах рендеринга и компиляции. Цена – задержка: 251 нс до памяти и 172 нс в среднем между ядрами, оба показателя худшие в группе с большим отрывом, что и объясняет его результаты в однопоточных и чувствительных к задержке задачах. У Precision 5 16S была самая низкая задержка памяти – 116 нс, а у Pro 7 14 – самая плотная межъядерная связь – 50 нс.
Игры и кодирование с использованием графического процессора
SuperTuxKart — единственная игра в этом релизе пакета, и при разрешении 1080p она достаточно лёгкая, поэтому результат говорит не только о видеокарте, но и о процессоре и драйверах. Встроенный бенчмарк запускает игру в полноэкранном режиме 1920×1080 на ультра-настройках с отключенной вертикальной синхронизацией, используя дискретную видеокарту (если она есть), и показывает среднюю частоту кадров, а также типичные, в основном стабильные и устойчивые показатели игры, которые описывают постепенно снижающиеся значения в распределении времени кадра. На Surface мы запускали 64-битную сборку под эмуляцией Prism.
В среднем Surface показал 235.9 кадров в секунду в нативном режиме и 264.6 кадров в секунду при запуске 64-битной сборки в режиме эмуляции, опередив Blade 16 с его 200 кадрами в секунду. При такой частоте кадров RTX 5090 работает далеко не на пределе своих возможностей; Blade 16 ограничен возможностями своего процессора и драйвера OpenGL, и он работает в гибридном режиме с дисплеем, подключенным к Radeon 890M, которая добавляет копию данных за каждый кадр.
Наиболее показательный результат был получен среди ноутбуков Dell, где интегрированная видеокарта Arc Pro B390 в Precision 5 16S показала в среднем 166.8 кадров в секунду против 150.8 у дискретной RTX PRO 2000 в Pro Max 14, при этом Pro Max 14 показал самый низкий стабильный показатель в группе — 53 кадра в секунду. Более требовательная игра выделила бы 5090 среди всех остальных.
FFmpeg кодирует один и тот же клип 4K60 в HEVC со скоростью 8 Мбит/с с использованием аппаратных кодировщиков каждого производителя (Intel QSV, AMD AMF или NVIDIA NVENC), а также отдельно через Windows Media Foundation.
| Аппаратное кодирование HEVC (количество кадров в секунду, чем выше, тем лучше) | Surface Laptop Ultra | Dell Pro Precision 5 16S | Dell Pro 7 14 | Razer Клинок 16 | Dell Pro Max 14 Premium |
|---|---|---|---|---|---|
| Кодировщик от производителя графического процессора, HEVC 8 Мбит/с | 135 (NVENC) | 128 (QSV) | 137 (AMF) | 132 (NVENC) | Недоступно (драйвер старше, чем требуется для сборки FFmpeg) |
| Кодировщик Media Foundation, HEVC 8 Мбит/с | 55 | Недоступно (кодировщик HEVC MF не найден) | 110 | Недоступно (гибридная графика) | Недоступно (гибридная графика) |
Кодировщики с фиксированной функцией практически взаимозаменяемы при таком битрейте: от 128 до 137 кадров в секунду для QSV, AMF и NVENC, при этом единственный NVENC девятого поколения на Surface выдает 135 кадров в секунду. Для Pro Max 14 результаты отсутствуют, поскольку NVENC отказался открываться на его драйвере 597.16, который старше, чем 617.42 на двух других системах NVIDIA. Media Foundation предоставила данные только для Pro 7 14 и Surface; на Precision 5 16S кодировщик HEVC не был обнаружен, а две системы с гибридной графикой мы пропустили, поскольку они выбирают собственный адаптер и не могут быть привязаны к дискретному графическому процессору.
Перегрев и отключение питания OpenBLAS
В ходе самых длительных рабочих нагрузок средняя температура Surface составляла от 92 до 97 °C, а 30-минутный цикл выполнения завершился на 1% быстрее, чем начался; пиковая температура Blade 16 достигла 98-99 °C с тем же результатом. Единственная система, которая снижает производительность, Precision 5 16S, делает это по таймеру. Несмотря на окружающие температуры, замедление работы OpenBLAS DNF на Surface не было плавным: система полностью теряла питание при самой высокой нагрузке на вычисления с плавающей запятой в тестовом пакете.
Что мы могли бы отслеживать
sr-client каждые несколько секунд отбирает данные с датчиков через LibreHardwareMonitor и счетчики производительности Windows, а затем суммирует результаты каждого теста, при этом охват тестов различается сильнее, чем хотелось бы, на разных платформах. Две системы Intel вообще не сообщают LibreHardwareMonitor о температуре процессора, из-за чего тестовый пакет приостанавливается через фиксированный интервал между тестами.
Температура и тактовая частота процессора в зависимости от нагрузки
| Нагрузка (максимальное/среднее значение ЦП, C) | Surface Laptop Ultra | Dell Pro Precision 5 16S | Dell Pro 7 14 | Razer Клинок 16 | Dell Pro Max 14 Premium |
|---|---|---|---|---|---|
| Cinebench 2026 | 98 / 88 | Нет датчика | 83 / 74 | 96 / 78 | Нет датчика |
| 7-Zip | 98 / 65 | Нет датчика | 75 / 70 | 99 / 84 | Нет датчика |
| вяленая рыба | 98 / 96 | Нет датчика | 69 / 68 | 92 / 90 | Нет датчика |
| смеситель | 98 / 93 | Нет датчика | 76 / 70 | 95 / 87 | Нет датчика |
| HandBrake | 98 / 84 | Нет датчика | 82 / 72 | 92 / 86 | Нет датчика |
| сборка LLVM | 98 / 92 | Нет датчика | 74 / 68 | 98 / 93 | Нет датчика |
| GROMACS | 98 / 96 | Нет датчика | 71 / 70 | 97 / 94 | Нет датчика |
| Открыть БЛАС | DNF | Нет датчика | 83 / 78 | 91 / 87 | Нет датчика |
| STREAM | 98 / 92 | Нет датчика | 69 / 66 | 75 / 71 | Нет датчика |
| SuperTuxКарт | 90 / 80 | Нет датчика | 69 / 64 | 89 / 83 | Нет датчика |
| Клиент MLPerf | 93 / 77 | Нет датчика | 71 / 67 | 97 / 76 | Нет датчика |
| Агент кодирования | 86 / 78 | Нет датчика | 78 / 68 | 91 / 84 | Нет датчика |
В каждом ресурсоемком тесте на всех ядрах Surface нагрелся до 97-98 °C, а средние значения в Stockfish, GROMACS и Blender оставались выше 93 °C, что говорит о том, что большую часть этих тестов он работает на пределе своих возможностей. Даже STREAM, тест памяти, довел температуру до 98 °C. Blade 16 нагревался почти так же сильно, достигая пиковых значений в 98-99 °C в 7-Zip и сборке LLVM, но его средние значения были на 5-10 °C ниже в большинстве тестов. Pro 7 14 оказался самым холодным, достигнув пиковой температуры в 89 °C на протяжении всего теста, что соответствует как более низким тактовым частотам, так и более низким результатам во всех ядрах.
| Нагрузка (средняя тактовая частота процессора, МГц) | Surface Laptop Ultra | Dell Pro Precision 5 16S | Dell Pro 7 14 | Razer Клинок 16 | Dell Pro Max 14 Premium |
|---|---|---|---|---|---|
| Cinebench 2026 | 2,952 | 3,792 | 3,879 | 4,158 | 3,734 |
| 7-Zip | 2,405 | 3,936 | 3,767 | 4,014 | 3,710 |
| смеситель | 3,174 | 3,665 | 3,086 | 3,729 | 3,469 |
| сборка LLVM | 3,160 | 3,631 | 3,043 | 3,697 | 3,379 |
| GROMACS | 3,325 | 3,525 | 3,023 | 3,874 | 3,458 |
| STREAM | 3,255 | 4,014 | 3,590 | 3,684 | 4,057 |
| Клиент MLPerf | 2,165 | 2,632 | 3,036 | 3,593 | 3,861 |
| Устойчивая петля, стационарное состояние | 3,276 | 3,294 | 2,914 | 3,742 | 3,393 |
Тактовые частоты различаются на разных архитектурах, поэтому читайте дальше по столбцу, чтобы узнать, как тактовая частота чипа изменяется от легкой к тяжелой работе. Surface работал на частоте 3.2–3.3 ГГц при работе всех ядер, что соответствует его максимальной скорости при температуре 98 °C, и его 20 ядер на этой частоте все еще превосходят 12 или 16 ядер x64 на более высоких частотах. Blade 16 показывал самые высокие тактовые частоты почти во всех тестах и оставался выше 3.6 ГГц в самых горячих тестах, благодаря чему он опережает Stockfish и GROMACS на том же семействе процессоров, что и Pro 7 14, частота которого падала до 2.8–3.1 ГГц при длительной нагрузке на все ядра.
Цикл непрерывной работы наиболее наглядно демонстрирует стратегию каждой прошивки. Surface поддерживал температуру 98 °C на протяжении всех десяти проходов и завершил эксперимент на 1% выше, чем в первый раз; Blade 16 показал тот же результат — 94 °C. Ни у одного из корпусов на этом этапе не остается запаса тепла, но он и не нужен, поскольку их прошивка поддерживает тактовую частоту на пределе возможностей.
Precision 5 16S — единственная система, у которой наблюдается снижение производительности, и это происходит одинаково каждый раз: через 10-14 минут оценка падает примерно на 6 процентов и остается на этом уровне, а при втором полном запуске падение повторилось с точностью до трех знаков после запятой (0.938 против 0.939). Падение, которое происходит в одну и ту же минуту в двух запусках, похоже на длительное ограничение мощности в прошивке Dell, а не на ухудшение работы системы охлаждения.
Surface — не единственный ноутбук с RTX Spark, который у нас работает на высоких температурах. Другие ноутбуки с N1X в лаборатории также нагреваются до 90-95 градусов при нагрузке на все ядра, и пока ни один из них не показал никаких сбоев. Наша рабочая теория, которую мы не можем доказать, заключается в том, что NVIDIA установила целевые показатели энергопотребления и тепловыделения для ноутбуков с N1X достаточно близко к пределу, так что поддержание оптимального уровня зависит от системы охлаждения и прошивки каждого производителя, и именно здесь Surface отличается от других. Температурные показатели — это то, на что следует обратить внимание при подготовке обзоров, поскольку именно конструкция системы охлаждения будет определять разницу между этими платформами.
Перегрев и отключение питания OpenBLAS
Наш Surface Laptop Ultra трижды терял питание, каждый раз, когда решение задачи OpenBLAS LU на всех ядрах переходило к задаче N=20000 на 20 потоках. Мы пропустили OpenBLAS на его последнем запуске, чтобы завершить остальные 29 тестов, поэтому в разделе ЦП отображается DNF. Это уже второй экземпляр, вышедший из строя таким образом: первый тестовый образец завис при той же нагрузке, показал дефект OLED-дисплея на краю вентиляционного отверстия и ошибку ЦП, которую мы могли воспроизвести по команде, и был заменен.
| События | Что шло | Последнее чтение перед поражением | позже |
|---|---|---|---|
| Около 20:06 | Полный запуск, 26-битная OpenBLAS: оба набора LU-операций с N=10000 выполнены (319.7 и 368.1 GFLOPS), затем N=20000 на 20 потоках. | Температура процессора 95.7 °C, 3.2 ГГц (53 °C при запуске). | Выключено до включения в 21:11 |
| Около 21:30 | Воспроизведение, проход 1: 12 N=10000 решений успешно выполнено, N=20000 на 20 потоках запущено в 21:30:13 | Самая высокая температура: 95.2 °C, 3.1 ГГц. | Перезагрузился сам по себе в 21:31 |
| Около 21:35 | Воспроизведение, проход 1: та же последовательность, N=20000 на 20 потоках, запущено в 21:35:10 | Самая высокая температура: 95.5 °C, 3.2 ГГц. | Вернусь в 22:05 |
Первоначально мы предположили, что ноутбук, работающий при температуре 98°C, перегрелся; похоже, это не является истинной причиной проблемы. Температура Surface упала с 95.2 до 95.7°C после 31 минуты работы в цикле непрерывного тестирования при 98°C и 12 минут в Cinebench без сбоев. Windows зафиксировала резкое отключение питания, а не выключение: при каждой перезагрузке регистрировалась ошибка Kernel-Power 41 с кодом ошибки 0 и отсутствием нажатия кнопки питания, а также не было дампа памяти при сбое, записи о фатальной аппаратной ошибке и события перегрева, которое обычно происходит при перегреве.
Результаты измерений воспроизводимы с точностью до секунды: оба репродуктора потеряли питание при первом проходе, через 42–46 секунд после начала загрузки и через 14–16 секунд после начала решения задачи с N=20000, и каждое решение до потери питания проходило проверку на остаточные значения HPL, поэтому оборудование работало корректно вплоть до момента резки.
Счетчик платформы также оба раза достигал одного и того же значения: зона терморегулирования PSYS не является температурой, но она стабильно повышается под нагрузкой примерно с 1,000 до 1,200 в режиме ожидания и составляла 4,419 и 4,406 при двух случаях повторного сбоя. Первый Surface вышел из строя при гораздо более низком показании PSYS — 2,808, поэтому это преимущество для владельцев прошивки платформы, а не пороговое значение.
Ошибка также не является детерминированной, поскольку после первого перезапуска полная попытка выполнения шага прошла все восемь конфигураций до N=40000, достигнув 336 и 370 GFLOPS для решений N=20000 и N=40000 на 20 потоках соответственно, то есть три из четырех попыток на этом устройстве привели к отключению питания. Оба устройства работали от сети переменного тока; у этого устройства батарея была заряжена на 100 процентов как до, так и после отключения питания.
Два одинаковых ноутбука Surface Laptop Ultra, вышедшие из строя при разных соотношениях памяти (96/32 на первом, 64/64 на втором), указывают на проблему с системой питания, охлаждением или защитой прошивки при длительной нагрузке на все ядра FP64, а не на неисправность одного конкретного экземпляра. Мы сообщили об этом и обновим этот обзор, если будет выпущено исправление.
Воспроизведение выключения питания
В ходе воспроизведения ошибки мы выполнили шесть решений LU-функций с N=10000 на 20 потоках, еще шесть на 10 потоках, а затем N=20000 на 20 потоках. OpenBLAS поставляется с бенчмарком LINPACK (benchmark/linpack.c), который выполняет ту же работу: он заполняет случайную матрицу N x N, факторизует ее с помощью dgetrf, решает задачу с помощью dgetrs и сообщает MFlops на единицу размера, поэтому любой может повторить последовательность без нашего набора тестов.
В Windows на Arm важны две детали, начиная с количества потоков: официальная версия OpenBLAS для Windows на Arm ограничивается 12 потоками, поэтому она не может загрузить все 20 ядер; библиотеку необходимо собрать из исходного кода версии 0.3.34 с более высоким лимитом. А таймер Windows в бенчмарке компилируется только с использованием инструментария типа MinGW, поэтому его следует собирать в оболочке CLANGARM64 MSYS2. Из распакованного исходного кода OpenBLAS 0.3.34:
pacman -S --needed mingw-w64-clang-aarch64-clang mingw-w64-clang-aarch64-cmake mingw-w64-clang-aarch64-ninja cmake -S . -B build -G Ninja -DCMAKE_BUILD_TYPE=Release -DTARGET=NEOVERSEN1 -DNUM_THREADS=256 -DNOFORTRAN=1 -DC_LAPACK=1 -DBUILD_BENCHMARKS=ON -DBUILD_TESTING=OFF cmake --build build --target benchmark_linpack_DOUBLE
Затем, при подключении к сети и настройке Windows на максимальную производительность, эта последовательность действий повторяется до каждого отключения питания. На нашем Surface питание отключалось во время финального решения N=20000.
cd build OPENBLAS_LOOPS=6 OPENBLAS_NUM_THREADS=20 ./benchmark_linpack_DOUBLE.exe 10000 10000 1 OPENBLAS_LOOPS=6 OPENBLAS_NUM_THREADS=10 ./benchmark_linpack_DOUBLE.exe 10000 10000 1 OPENBLAS_NUM_THREADS=20 ./benchmark_linpack_DOUBLE.exe 20000 20000 1
Два запуска OPENBLAS_LOOPS=6 прогревают систему двенадцатью решениями N=10000, что соответствует нашему воспроизведению ошибки, а последняя команда запускает решение N=20000 на всех 20 ядрах, после чего наш Surface отключился через 14-16 секунд.
Производительность хранилища
Результаты тестирования накопителей позволили разделить пять SSD-накопителей на три группы. Накопитель Gen5 SK hynix в Surface показал рекордные показатели последовательного чтения — 14.1 ГБ/с и записи — 11.5 ГБ/с; Precision 5 16S, Pro Max 14 и Blade 16 обеспечили от 650 000 до 780 000 операций ввода-вывода в секунду при случайном вводе-выводе 4K через файловую систему; а Samsung BM9C1a в Pro 7 14 читал как обычный накопитель Gen4, но записывал со скоростью около 120 МБ/с, что связано с использованием технологии QLC.
fio Четыре Угла
Наш тест клиентского хранилища запускает fio на файле на загрузочном томе, используя NTFS и BitLocker точно так же, как это было предусмотрено при поставке системы, поэтому результаты включают в себя затраты на ОС и шифрование. Он измеряет 128 КБ последовательных операций чтения и записи со скоростью QD32 и 4 КБ случайных операций чтения и записи со скоростью QD32 в 4, 8 и 16 заданиях, сообщая лучший результат из трех. Каждое задание выполняется на 5 ГБ памяти, а затем снова на 25 ГБ, чтобы проверить, сохраняется ли результат после того, как рабочий набор данных превысит возможности самого быстрого кэша диска; для сравнения используются строки с объемом памяти 25 ГБ.
| fio, объем трафика 5 ГБ | Surface Laptop Ultra | Dell Pro Precision 5 16S | Dell Pro 7 14 | Razer Клинок 16 | Dell Pro Max 14 Premium |
|---|---|---|---|---|---|
| Последовательное чтение 128K QD32 (МБ/с) | 14,175 | 10,275 | 3,747 | 7,099 | 7,025 |
| Последовательная запись 128K QD32 (МБ/с) | 11,475 | 8,909 | 123 | 5,248 | 6,645 |
| Случайное чтение 4K QD32, пиковое значение (IOPS) | 307,738 | 778,080 | 363,988 | 700,883 | 756,704 |
| Случайная запись 4K QD32, пиковое значение (IOPS) | 284,680 | 676,963 | 25,465 | 651,651 | 697,110 |
Два накопителя Gen5 лидируют по скорости последовательного чтения и записи. Surface достиг скорости чтения 14 134 МБ/с и записи 11 461 МБ/с на 25-гигабайтном накопителе, за ним следует Precision 5 16S со скоростью 9 216 МБ/с и 9 009 МБ/с соответственно, в то время как три системы Gen4 показали скорость чтения от 7.0 до 7.1 ГБ/с. Случайные операции ввода-вывода меняют порядок групп: Precision 5 16S, Pro Max 14 и Blade 16 показали скорость от 648 000 до 780 000 IOPS в обоих направлениях, в то время как Surface остановился на уровне около 300 000 IOPS при чтении и записи, что ниже половины показателей систем x64, несмотря на более быстрый накопитель.
В строках, содержащих данные о необработанном устройстве, показано, откуда берется потолок производительности: при повторном случайном чтении 4K непосредственно на физический диск, минуя NTFS и BitLocker, SSD-накопитель Surface показал 1 670 736 операций ввода-вывода в секунду, что в 5.6 раза больше, чем результат файловой системы, поэтому потолок в 300 000 устанавливается путем хранения данных Windows на Arm, а не самим накопителем. Наиболее вероятным фактором является программное обеспечение BitLocker XTS-AES-128 с включенной функцией проверки целостности памяти, которое удерживало загрузку ЦП на уровне 57 процентов во время выполнения набора из 4 заданий.
Системы x64 теряют меньше ресурсов, но всё же оставляют желать лучшего по показателю IOPS: Pro Max 14 — в 1.94 раза, Precision 5 16S — в 1.57 раза, а Blade 16 — в 1.43 раза. Только Pro 7 14 не показал никакой разницы.
Задержка хранения и потолок нагрузки модели
Задержки завершения fio при объеме памяти 25 ГБ, в микросекундах, и верхний предел диска, используемый в качестве верхней границы теста нагрузки модели ИИ: последовательное чтение файла модели объемом 1 МБ с помощью DiskSpd.
| Тест | Surface Laptop Ultra | Dell Pro Precision 5 16S | Dell Pro 7 14 | Razer Клинок 16 | Dell Pro Max 14 Premium |
|---|---|---|---|---|---|
| Последовательное считывание 128K, p99 (мкс, чем меньше, тем лучше) | 391 | 971 | 2,179 | 1,384 | 873 |
| Последовательная запись 128K, p99 (мкс, чем меньше, тем лучше) | 766 | 3,490 | 120,062 | 889 | 1,036 |
| Случайное чтение 4K, 16 заданий, среднее значение (мкс, чем меньше, тем лучше) | 1,839 | 368 | 1,410 | 472 | 635 |
| Случайная запись 4K, 16 заданий, среднее значение (мкс, чем меньше, тем лучше) | 1,984 | 444 | 23,703 | 470 | 636 |
| Чтение случайным образом 4K QD32, пиковое значение, 25 ГБ (IOPS) | 1,670,736 | 1,224,270 | 361,344 | 993,050 | 1,472,021 |
| Пороговое значение скорости последовательного чтения DiskSpd 1M (МБ/с) | 10,588 | 11,402 | 1,689 | 6,246 | Не запускалось (тест на нагрузку модели не прошёл проверку) |
У Surface наблюдались самые узкие последовательные хвосты распределения, а у Precision 5 16S — самая низкая средняя задержка 4K в обоих направлениях. Случайные наборы из 16 заданий на Surface также имели хвост, который мы не наблюдали на системах x64: задержка p99.99 составила 4.8 секунды при чтении и 5.6 секунды при записи, тогда как средние значения составили 1.8 и 2.3 мс соответственно, то есть примерно одна операция ввода-вывода из 10 000 ожидающих секунд через путь Windows на Arm. Мы не включили значения p99 для 4K на Surface в таблицу, потому что они оказались ниже своих средних значений, что не может быть правильным, и мы хотим подтвердить, как fio отображает процентили на Arm64, прежде чем выводить их.
Заключение
Процессор RTX Spark N1X в Surface Laptop Ultra for Business — самый мощный многопоточный процессор, который мы когда-либо видели в ноутбуках, и он сочетается с пропускной способностью памяти 122 ГБ/с и выделением 64 ГБ памяти для графического процессора, которое можно увеличить до 96 ГБ, что обеспечивает больше памяти для графического процессора NVIDIA, чем у любого ноутбука до этого. Он значительно превзошел по результатам Cinebench, 7-Zip, Blender, x265 и сборки LLVM, установил рекорды последовательного доступа к памяти — 14.1 ГБ/с при чтении и 11.5 ГБ/с при записи, и был единственной системой, которая запускала наши модели уровня M с 35 параметрами на приемлемой скорости, завершая задачи уровня M для программистов менее чем за 90 секунд, в то время как системам с 64-битной архитектурой требовалось от пяти до одиннадцати минут.
Ограничения касаются только текущей версии платформы. В Windows на Arm путь к хранилищу ограничивает случайный ввод-вывод до одной пятой от возможностей накопителя, а задержка памяти вдвое выше, чем в системах x64. Результаты в однопоточном режиме отстают от показателей x64, а некоторые порты Arm64 (SVT-AV1, GROMACS) значительно отстают от своих x64-версий. Интегрированный графический процессор также использует общую шину памяти с остальной частью системы, поэтому производительность рабочего стола снижается вдвое во время работы агента.
Для модели с 24 ГБ оперативной памяти Razer Blade 16 с видеокартой RTX 5090 генерирует токены в 2.3 раза быстрее и при этом остается отзывчивым; наилучший вариант использования Surface — это модель, которая не подходит для платформ меньшего размера.
Помимо этих оговорок, два экземпляра Surface Laptop Ultra отключили питание под той же нагрузкой с двойной точностью на всех ядрах, независимо от температуры, и в логах зафиксировано резкое отключение питания, а не срабатывание термореле. Большинство покупателей никогда не будут запускать вычисления в стиле HPL на 20 потоках, и ноутбук выдержал температуру 98°C во всех остальных длительных тестах, не потеряв ни одного балла. Но ноутбук класса рабочей станции должен выдерживать самую тяжелую реальную нагрузку, и пока Microsoft или NVIDIA не объяснят, что именно вызвало срабатывание термореле, это остается открытым вопросом для данной модели.
Для разработчика или аналитика, которому необходимо запускать локально модели размером от 20 до 35 байт, компилировать большие деревья или выполнять рендеринг на ЦП в ноутбуке, процессор N1X в этом Surface справляется с задачами, недоступными ни одному 64-разрядному ноутбуку в этом сравнении, а конфигурация со 128 ГБ памяти превосходно выполняет это обещание.
Для тех, чья работа однопоточная, зависит от браузера или основана на дискретной видеокарте с 24 ГБ памяти, выбор 64-разрядной версии, вероятно, будет более выгодным, и Precision 5 16S и Blade 16 делят это преимущество. Мы поделимся впечатлениями от аппаратной части и времени автономной работы после завершения тестирования корпуса, а также ответом производителя по поводу выключения, как только получим его.
В рейтинге лучших ноутбуков для локального ИИ Surface Laptop Ultra for Business представлен в разделе RTX Spark , наряду с другими системами N1X, протестированными нами на новом клиентском наборе, а также в разделе «Также протестировано» в нашем рейтинге лучших бизнес-ноутбуков.
Amazon