Когда в октябре мы впервые получили в свои руки NVIDIA DGX Spark, стало ясно, что NVIDIA всерьез намерена уменьшить размеры ИИ-устройств для центров обработки данных до размеров, позволяющих разместить его на рабочем столе. Наш первый образец Founders Edition дал нам возможность оценить возможности платформы GB10 на базе архитектуры Грейс Блэквелл в компактном, автономном устройстве.
С тех пор экосистема развилась благодаря OEM-производителям. Недавно мы получили в лабораторию для обзора два компьютера Dell Pro Max с GB10. Мы разместили их рядом с другими нашими системами Spark, чтобы оценить стабильность производительности, тепловые характеристики и общие различия в конструкции в зависимости от производителя.
Если оригинальная модель Spark была ориентирована на эталонное оборудование, то Dell привнесла в платформу свой собственный стиль. Pro Max с GB10 выполнен в корпусе Dell L6, отличающемся более изысканным индустриальным дизайном и эстетикой, удобной для настольных компьютеров, что придает ему индивидуальность, сохраняя при этом основу GB10. Он больше похож не на комплект разработчика, а на готовый продукт, предназначенный для профессионального рабочего места.
На момент написания этой статьи конфигурация с 1 ТБ памяти продается в магазине Dell по цене 4,061.34 доллара США , позиционируясь как премиальное настольное устройство для работы с искусственным интеллектом. В этом обзоре мы сравним версию платформы GB10 от Dell с другими протестированными нами системами Spark, сосредоточившись на реальной производительности и тепловом режиме при длительных нагрузках.
Технические характеристики Dell Pro Max с GB10
В таблице ниже представлены доступные конфигурации хранилища и варианты сборки для Dell Pro Max с 10 ГБ оперативной памяти.
| Параметр | Dell Pro Max с GB10 |
|---|---|
| Размеры и вес | |
| Высота | 2 д |
| Ширина | 5.9 д |
| глубина | 5.9 д |
| Вес | 2.69 фунтов |
| процессор | |
| Тип процессора | NVIDIA GB10 (Grace Blackwell Superchip) (20 ядер) |
| Интегрированная графика | Встроенный графический процессор NVIDIA Blackwell |
| Память | |
| Тип памяти | LPDDR5x (Unified System Memory) |
| Конфигурация памяти | 128 ГБ LPDDR5x, унифицированная системная память |
| Пропускная способность памяти | 273 ГБ/с (8533 МТ/с) |
| Operating System | |
| Поддерживаемые ОС | ОС NVIDIA DGX |
| Внешние порты и разъемы | |
| Сетевые порты | Один разъем RJ45 (10 Гбит/с) Сетевая карта NVIDIA ConnectX-7 (200G × 2 QSFP) |
| Порты USB | Три порта USB 3.2 Gen 2×2 Type-C (20 Гбит/с) Один порт USB 3.2 Gen 2×2 Type-C с поддержкой PD. |
| Видеопорт(ы) | Один HDMI 2.1a |
| Порт адаптера питания | USB Type-C (PD IN) |
| Слот безопасности | Ничто |
| Беспроводной сети | |
| Wi-Fi | WiFi 7 (AW-EM637, 2×2) |
| Блютуз | Bluetooth 5.4 |
| Память | |
| параметры хранения | M.2 Gen4 NVMe: 1 ТБ / 2 ТБ / 4 ТБ (Opal 2.0 — характеристики могут отличаться) |
| Адаптер питания | |
| Тип | Внешний адаптер мощностью 280 Вт (USB Type-C) |
Dell Pro Max с GB10 Build and Design
В целом, Dell выбрала иной подход к дизайну по сравнению со своими настольными компьютерами серии Pro, добавив переднюю панель с сотовой структурой, которая придает ему эстетику корпоративного сервера, несмотря на миниатюрный корпус объемом 1 л. Общая конструкция впечатляет. Металлический корпус цвета «оружейная сталь» создает ощущение прочности и надежности, делая его портативным и долговечным в дороге, будь то на загруженном рабочем столе или в лаборатории. Dell также включила светодиодный индикатор питания в свою модель GB10, который мы видели только на этой и еще одной версии на рынке.
Высота GB10 составляет 1.80 дюйма спереди и сзади, а максимальная высота — 2.0 дюйма. Компактные габариты (5.90 квадратных дюймов) занимают минимум места, а вес варьируется от 2.69 до 2.96 фунтов в зависимости от комплектации.
На задней панели устройства расположены один порт Ethernet RJ45 10GbE, два порта QSFP 200 Гбит/с (Realtek RTL8127-CG; NVIDIA ConnectX-7), три порта USB 3.2 Gen 2×2 (20 Гбит/с) Type-C с поддержкой DisplayPort 1.4a alt-mode и подачей питания, один порт HDMI 2.1a. Dell отличается от Founders Edition и других OEM-моделей тем, что включает в комплект более мощный адаптер питания USB Type-C мощностью 280 Вт, обычно используемый в портативных рабочих станциях, что обеспечивает достаточный запас мощности для длительной работы.
Внутри GB10 установлен беспроводной модуль AzureWave AW-EM637, обеспечивающий подключение по Wi-Fi для гибких сценариев развертывания. За хранение данных отвечает один слот M.2 2230/2242, поддерживающий твердотельные накопители PCIe Gen 4 для быстрой загрузки и быстрого доступа к данным. Особое внимание привлекает оперативная память объемом 128 ГБ LPDDR5X со скоростью 8533 МТ/с, обеспечивающая высокую пропускную способность, необходимую для ресурсоемких задач искусственного интеллекта.
В основе системы лежит чип NVIDIA GB10, специально разработанный для выполнения задач искусственного интеллекта и периферийных вычислений. Система поставляется с предустановленной ОС NVIDIA DGX, оптимизированным дистрибутивом Linux от NVIDIA, который включает предварительно настроенные драйверы, библиотеки CUDA и популярные фреймворки для ИИ, такие как TensorFlow и PyTorch. Это позволяет пользователям развертывать приложения ИИ немедленно, без сложной настройки системы.
Тестирование температурного режима Dell Pro Max с помощью GB10
Для проверки тепловых характеристик компонентов Dell Pro Max с GB10 мы сравнили их с Founders Edition и продукцией таких производителей, как ASUS, Acer и Gigabyte. Более подробно об этом мы писали в нашей статье о тестировании тепловых характеристик Spark.
Мы отслеживали работу компонентов всей системы в течение заданного периода времени, используя три этапа нагрузки, постепенно увеличивая загрузку примерно в течение часа. Это позволило нам увидеть устройство в условиях длительного использования и на различных этапах нагрузки. Мы отслеживали температуру ЦП, ГП, сети, NVMe и общее энергопотребление.
Температуры процессора
В ходе тестирования тепловых характеристик процессора Dell Pro Max с GB10 показал лучшие результаты в группах при интенсивных нагрузках. В режиме Prefill Heavy Dell зафиксировал пиковую температуру около 87.7°C примерно на 1500-й секунде, что ставит его в число самых теплых систем во время этого перехода между режимами нагрузки.
На этапе Equal ISL/OSL компания Dell практически не отставала от систем верхнего среднего уровня, стабильно повышая температуру до диапазона 62–75 °C, как и ASUS с Founders Edition. Gigabyte работала заметно холоднее на этом этапе, в то время как Acer поддерживала самые низкие общие температуры процессора.
В режиме Prefill Heavy температурная кривая Dell поднималась более агрессивно, чем у большинства конкурентов, достигая пика около 88 °C, прежде чем перейти к режиму Decode Heavy. После перехода к длительным нагрузкам Decode система стабилизировалась на уровне 80–83 °C. Хотя это и отнесло Dell к более «теплым» показателям в группе, компания продемонстрировала стабильный контроль температуры при длительной нагрузке, а не ее постоянное повышение.
В ходе тестирования Acer оставался самым холодным устройством, поддерживая температуру в диапазоне 60-65°C на протяжении всего времени тестирования. Gigabyte также демонстрировал более умеренные показатели теплоотдачи по сравнению с Dell.
В целом, Dell Pro Max с GB10 показал одну из самых высоких пиковых температур процессора в группе во время кратковременных нагрузок, но после нормализации нагрузки стабилизировался на конкурентоспособном уровне.
Температура графического процессора
Температурный режим графического процессора следовал аналогичной закономерности. Во время выполнения теста Prefill Heavy пиковая температура Dell достигла примерно 80°C, что поместило его в верхнюю часть диапазона температур в пиковых нагрузках.
В режиме Equal ISL/OSL компания Dell быстро достигла диапазона 60-65°C, практически не отставая от ASUS и Founders Edition. Gigabyte и Acer работали при более низких температурах на этом этапе.
При переходе в режим интенсивного декодирования температура Dell стабилизировалась в пределах 68–71 °C. Хотя она все еще была выше, чем у Acer и Gigabyte, разница сократилась по сравнению с пиковой фазой. Founders Edition и ASUS показали аналогичные температурные показатели, как и Dell, во время длительного декодирования.
В целом, система Dell демонстрировала более высокие пиковые температуры графического процессора, но при этом показывала стабильное и предсказуемое поведение при длительных нагрузках.
Температура NVMe
Наиболее заметное отличие конфигурации Dell от конкурентов заключалось в тепловом режиме. Во время теста Prefill Heavy температура NVMe-накопителя достигала примерно 63–64 °C, что ставит его в верхнюю часть диапазона температур в группе сравнения.
В режиме Equal ISL/OSL температура накопителя Dell начиналась с диапазона 40–45 °C и неуклонно повышалась, оставаясь немного выше, чем у большинства конкурентов на протяжении всего этапа. Во время длительных нагрузок декодирования температура накопителя стабилизировалась в пределах 59–61 °C.
Хотя эти температуры остаются в пределах стандартных рабочих характеристик NVMe, они указывают на сравнительно более плотный воздушный поток или более компактное размещение накопителя по сравнению с Acer и Gigabyte, которые поддерживали более низкие устойчивые температуры NVMe на тех же этапах.
Температура NIC
Температурный режим сетевых адаптеров демонстрировал аналогичную, но менее выраженную закономерность. Температура в сети Dell достигала пика в диапазоне 70°C во время режима Prefill Heavy и стабилизировалась в верхнем диапазоне 60°C во время режима Decode Heavy.
В ходе тестирования Dell показала более высокие температуры, чем ASUS или Founders Edition, но не продемонстрировала существенных отклонений. Acer снова показала самые низкие температуры в целом.
Потребление энергии графическим процессором
Поведение графического процессора по энергопотреблению ближе к среднему значению в группе. Пиковое потребление Dell достигло примерно 70 Вт во время фазы предварительного заполнения, примерно на отметке 1,400–1,600 секунд. Это ненадолго приблизилось к максимальному значению в 74 Вт у версии Founders Edition, но в целом оставалось немного ниже.
В тесте Equal ISL/OSL потребление энергии Dell выросло примерно с 27 Вт до диапазона 40 Вт, в основном синхронно с остальными системами. В тесте Prefill Heavy оно ненадолго достигло 70 Вт, после чего стабилизировалось. В тесте Decode Heavy потребление энергии Dell стабилизировалось в диапазоне 40–45 Вт, немного превышая показатели Acer и ASUS, но уступая Founders Edition, которая поддерживала самое высокое устойчивое энергопотребление графического процессора до конца теста.
С точки зрения энергопотребления, Dell, похоже, не перегружает графический процессор чрезмерно. Скорее всего, более высокие показатели тепловыделения по сравнению с некоторыми конкурентами обусловлены скорее циркуляцией воздуха в корпусе и внутренними решениями, чем избыточным распределением энергии.
Тепловая сводка
При мониторинге процессора, видеокарты, NVMe-накопителя и сетевой карты Dell Pro Max с SSD-накопителем GB10 в целом демонстрировал более высокую температуру во время интенсивных нагрузок с предварительным заполнением данных. Однако при длительной работе в режиме декодирования температура стабилизировалась в приемлемых диапазонах без резкого повышения.
Компания Acer неизменно демонстрировала самые низкие общие показатели по температуре, при этом Gigabyte также работала с более низкими температурами по сравнению с Dell. Модели Founders Edition и ASUS, как правило, показывали более близкие результаты по тепловому режиму к Dell.
В конечном итоге, данные свидетельствуют о том, что в реализации Dell приоритет отдается компактному дизайну и корпусу в стиле рабочей станции, при этом тепловые характеристики остаются стабильными под нагрузкой, но демонстрируют меньший запас по охлаждению при переходе от агрессивных рабочих нагрузок к более холодным по сравнению с самым эффективным корпусом в линейке.
Тестирование производительности Dell Pro Max GB10
Для оценки Dell Pro Max с GB10 мы протестировали устройства Spark, используя бенчмарк vLLM Online Serving — наиболее широко используемый механизм высокопроизводительного вывода и обслуживания больших языковых моделей. Бенчмарк vLLM Online Serving имитирует реальные производственные нагрузки, отправляя одновременные запросы на работающий сервер vLLM и измеряя ключевые показатели, включая общую пропускную способность токенов (токены в секунду), время до получения первого токена и время на один выходной токен, при различных условиях нагрузки.
В ходе тестирования мы охватили широкий спектр моделей, включая плотные архитектуры и микромасштабируемые типы данных, и оценили производительность в трех сценариях рабочей нагрузки: равное соотношение ISL/OSL, интенсивное предварительное заполнение и интенсивное декодирование. Эти сценарии представляют собой различные реальные модели обслуживания, от сбалансированной нагрузки на ввод и вывод до ресурсоемкой обработки запросов и генерации токенов, ограниченной пропускной способностью памяти.
В дополнение к Dell Pro Max с GB10, мы провели сравнительный анализ NVIDIA Founders Edition Spark в качестве эталонного образца, а также OEM-систем от ASUS, Acer и Gigabyte. Это позволило нам оценить результаты Dell в контексте более широкого конкурентного ландшафта и понять, где компания лидирует, идет вровень с конкурентами или отстает в различных моделях и при разных типах рабочих нагрузок.
ГПТ-ОСС-120Б
В режиме Equal ISL/OSL производительность Dell варьируется от 68.57 до 670.83 ток/с, занимая среднее место в диапазоне размеров пакетов. В режиме Prefill Heavy производительность начинается с 298.60 ток/с и увеличивается до 2,707.15 ток/с при размере пакета 64, что ставит Dell в число лидеров при больших размерах пакетов, несмотря на более скромную начальную точку. В режиме Decode Heavy производительность варьируется от 37.74 до 273.54 ток/с, при этом масштабирование остается ограниченным по сравнению с другими типами рабочих нагрузок.
ГПТ-ОСС-20Б
Производительность Equal ISL/OSL варьируется от 90.76 до 1,585.28 ток/с с устойчивым ростом при увеличении размера пакета. Prefill Heavy достигает 4,453.55 ток/с при размере пакета 64, что представляет собой максимальную абсолютную пропускную способность Dell среди протестированных моделей. Decode Heavy варьируется от 49.88 до 687.17 ток/с, стабильно увеличиваясь при увеличении размера пакета.
Qwen3 coder 30B A3B FB8
Показатель ISL/OSL для равных значений варьируется от 103.76 до 1,258.08 ток/с, при этом производители тесно сгруппированы по размерам партий. Показатель Prefill Heavy возрастает до 2,018.58 ток/с при размере партии 64, при этом при больших размерах партий наблюдается минимальное разделение между системами. Показатель Decode Heavy колеблется от 54.69 до 493.82 ток/с, сохраняя схожую кластеризацию среди производителей.
Qwen3 coder 30B A3B Base
Показатель Equal ISL/OSL варьируется от 62.74 до 748.04 ток/с в зависимости от размера пакета. Показатель Prefill Heavy колеблется от 266.80 до 1,693.68 ток/с, оставаясь в верхней части диапазона при средних и больших размерах пакета. Показатель Decode Heavy колеблется от 34.11 до 365.68 ток/с в зависимости от рабочей нагрузки.
Лама 3.1 8B Инструкция FP4
При одинаковом уровне ISL/OSL производительность масштабируется от 76.03 до 2,776.30 ток/с в зависимости от размера пакета. При высоком уровне предварительного заполнения производительность Dell находится в среднем диапазоне при больших размерах пакета, при этом пропускная способность увеличивается вместе с остальной частью стека. При высоком уровне декодирования производительность колеблется от 40.87 до 575.50 ток/с, постепенно увеличиваясь с размером пакета.
Лама 3.1 8B Инструкция FP8
Показатель ISL/OSL для всех производителей примерно одинаков и варьируется от 24.50 до 1,079.44 ток/с, при этом показатели производителей близки во всем диапазоне размеров партий. Показатель Prefill Heavy достигает 245.35 ток/с при размере партии 64, при этом разница между производителями увеличивается при больших размерах партий. Показатель Decode Heavy варьируется от 23.60 до 464.12 ток/с, при этом масштабирование остается стабильным во всей группе.
GPU Direct Storage
Одним из тестов, проведенных нами на Spark, был тест MagnumIO GPU Direct Storage (GDS). GDS — это функция, разработанная NVIDIA, которая позволяет графическим процессорам обходить центральный процессор при доступе к данным, хранящимся на NVMe-накопителях или других высокоскоростных устройствах хранения. Вместо маршрутизации данных через центральный процессор и системную память, GDS обеспечивает прямую связь между графическим процессором и устройством хранения, значительно снижая задержку и повышая пропускную способность данных.
В ноутбуке Dell Pro Max GB10 используется твердотельный накопитель Phison ESL04TBTLCZ 4TB Gen4. Хотя его емкость соответствует другим моделям на 4 ТБ, это модель Gen4 с более низкими скоростями чтения и записи.
Как работает функция GPU Direct Storage
Традиционно, когда графический процессор обрабатывает данные, хранящиеся на NVMe-накопителе, данные сначала должны пройти через центральный процессор и системную память, прежде чем достигнут графического процессора. Этот процесс создает узкие места, поскольку центральный процессор выступает в роли посредника, увеличивая задержку и потребляя ценные системные ресурсы. Технология GPU Direct Storage устраняет эту неэффективность, позволяя графическому процессору получать доступ к данным непосредственно с устройства хранения через шину PCIe. Этот прямой путь уменьшает накладные расходы на перемещение данных, обеспечивая более быструю и эффективную передачу данных.
Задачи искусственного интеллекта, особенно те, которые связаны с глубоким обучением, требуют больших объемов данных. Обучение больших нейронных сетей требует обработки терабайтов данных, и любая задержка в передаче данных может привести к недоиспользованию графических процессоров и увеличению времени обучения. Технология GPU Direct Storage решает эту проблему, обеспечивая максимально быструю доставку данных на графический процессор, минимизируя время простоя и максимизируя вычислительную эффективность.
Кроме того, GDS особенно полезен для рабочих нагрузок, связанных с потоковой передачей больших наборов данных, таких как обработка видео, обработка естественного языка или вывод в реальном времени. Снижая зависимость от ЦП, GDS ускоряет перемещение данных и высвобождает ресурсы ЦП для других задач, что еще больше повышает общую производительность системы.
Пропускная способность чтения GDSIO: 16 тыс.
Если посмотреть на пропускную способность чтения GDSIO 16K, то Dell начинает с примерно 0.50 ГиБ/с при 1 потоке и масштабируется до 1.34 ГиБ/с при 8 потоках, где он явно превосходит ASUS, показывающий примерно 0.95 ГиБ/с. Это преимущество сохраняется и при 16 потоках, где Dell обеспечивает 2.26 ГиБ/с по сравнению с примерно 1.58 ГиБ/с у ASUS, и снова при 32 потоках, где Dell показывает 3.32 ГиБ/с против 2.55 ГиБ/с у ASUS.
Даже при 64 потоках Dell сохраняет преимущество в 4.35 ГиБ/с, опережая ASUS, у которой этот показатель составляет примерно 3.68 ГиБ/с. Только при 128 потоках Dell стабилизируется на уровне около 4.30 ГиБ/с, в то время как другие платформы демонстрируют более высокие показатели. Во всем диапазоне масштабирования ядер Dell стабильно лидирует и значительно превосходит систему ASUS.
Средняя задержка чтения GDSIO: 16K
Если рассматривать среднюю задержку чтения GDSIO (16K), то Dell демонстрирует самые низкие показатели на большей части кривой масштабирования. Начинается это примерно с 0.03 мс при 1 потоке, что очень близко к показателю ASUS, но быстро увеличивается при 2 потоках (0.09 мс против 0.13 мс) и 4 потоках (0.112 мс против 0.118 мс). Dell сохраняет свое преимущество при 8 потоках (0.092 мс против 0.13 мс), 16 потоках (0.108 мс против 0.155 мс) и 32 потоках (0.148 мс против 0.193 мс).
При 64 потоках Dell сохраняет конкурентоспособный показатель примерно в 0.222 мс, что немного ниже, чем у ASUS (0.267 мс). Только при 128 потоках задержка резко возрастает до примерно 0.45 мс, практически совпадая с показателями ASUS на том же уровне. В целом, Dell демонстрирует стабильно более низкую задержку при низком и среднем уровнях параллелизма, прежде чем сходиться к максимальному количеству потоков.
Пропускная способность записи GSDIO: 16K
Анализируя пропускную способность записи GDSIO (16K), Dell демонстрирует уверенный старт с показателем около 0.35 ГиБ/с при 1 потоке и быстро опережает конкурентов при меньшей параллельности, достигая примерно 0.75 ГиБ/с при 2 потоках и 1.55 ГиБ/с при 4 потоках, явно опережая ASUS в тех же точках (0.58 и 0.65 ГиБ/с). Dell продолжает расти до 2.33 ГиБ/с при 8 потоках и достигает пика в районе 2.88–2.90 ГиБ/с при 16 и 32 потоках, где лидирует в группе.
Однако, при количестве потоков более 32, производительность Dell стабилизируется и немного снижается, оставаясь на уровне около 2.90 ГиБ/с при 64 потоках и падая примерно до 2.75 ГиБ/с при 128 потоках, в то время как Acer, Gigabyte и Founders Edition резко ускоряются, превышая 5 ГиБ/с при 64 потоках и достигая примерно 6.5 ГиБ/с при 128 потоках. В целом, Dell доминирует в диапазоне низких и средних потоков, но не масштабируется до более высоких уровней параллелизма, как системы с наивысшей производительностью.
Средняя задержка записи GDSIO 16K
Анализируя среднюю задержку записи GDSIO (16K), можно отметить, что Dell демонстрирует самую низкую задержку практически на всей кривой масштабирования. Она начинается примерно с 0.045 мс на 1 потоке и остается очень низкой — 0.05 мс на 2 потоках и 0.04 мс на 4 потоках, что значительно ниже, чем у ASUS, у которого этот показатель составляет около 0.06 мс и 0.10 мс соответственно. При 8 потоках Dell показывает результат около 0.055 мс, по сравнению с ASUS, у которого примерно 0.20 мс. Разница еще больше увеличивается при 16 потоках, где Dell показывает около 0.085 мс против примерно 0.35 мс у ASUS, а при 32 потоках Dell остается на уровне около 0.17 мс, в то время как ASUS поднимается почти до 0.68 мс.
Даже при 64 потоках Dell удерживает время на уровне около 0.34 мс, в то время как у ASUS оно резко возрастает до примерно 1.51 мс. Только при 128 потоках время Dell увеличивается еще сильнее, примерно до 0.71 мс, но оно остается значительно ниже, чем у ASUS, у которого оно превышает 3.10 мс. В целом, Dell демонстрирует значительно лучший контроль задержки записи по мере увеличения параллелизма, чем ASUS.
Пропускная способность чтения GDSIO 1 МБ
Анализируя пропускную способность чтения GDSIO (1 млн.), Dell начинает с приблизительно 2.6 ГиБ/с на 1 потоке, масштабируется до 4.3 ГиБ/с на 2 потоках и достигает примерно 5.6 ГиБ/с на 4 потоках. Далее производительность в основном стабилизируется, оставаясь на уровне около 5.6 ГиБ/с при 8 потоках, 5.4 ГиБ/с при 16 потоках, 5.4 ГиБ/с при 32 потоках и 5.5 ГиБ/с при 64 потоках, прежде чем остановиться на уровне около 5.5 ГиБ/с при 128 потоках.
Несмотря на то, что Dell демонстрирует высокую масштабируемость на начальном этапе и стабильную производительность, Acer и Gigabyte продолжают превышать 11 ГиБ/с при большем количестве потоков, а версия Founders Edition приближается к 10 ГиБ/с, что прочно позиционирует Dell в среднем сегменте по пропускной способности чтения больших блоков.
Средняя задержка чтения GDSIO 1М
Анализируя среднюю задержку чтения GDSIO (1M), можно отметить, что у Dell она начинается примерно с 0.35 мс при 1 потоке, увеличивается до 0.45 мс при 2 потоках и достигает приблизительно 0.70 мс при 4 потоках. Задержка продолжает контролируемо расти при 8 потоках (1.50 мс) и 16 потоках (3.00 мс), затем достигает примерно 5.90 мс при 32 потоках и 12.40 мс при 64 потоках, прежде чем остановиться на уровне около 25.40 мс при 128 потоках.
Хотя Dell масштабируется эффективнее, чем ASUS, достигая почти 29.60 мс при 128 потоках, он остается выше, чем Acer и Gigabyte при пиковой параллельности, которые обе держатся ближе к диапазону 11 мс при 128 потоках. В целом, Dell демонстрирует средние показатели задержки при чтении больших блоков, превосходя ASUS, но отставая от платформ с наименьшей задержкой при наибольшем количестве потоков.
Пропускная способность записи GDSIO: 1 МБ
Анализируя пропускную способность записи GDSIO (1 млн.), Dell показывает, что она начинается примерно с 2.6 ГиБ/с на 1 потоке, увеличивается до 3.2 ГиБ/с на 2 потоках и достигает примерно 3.3 ГиБ/с на 4 потоках. Далее производительность стабилизируется, оставаясь на уровне 3.2–3.3 ГиБ/с от 8 до 64 потоков, а затем немного снижается до 3.1 ГиБ/с при 128 потоках.
Хотя Dell обеспечивает стабильную и равномерную производительность записи больших блоков, она не масштабируется с увеличением параллелизма, как Acer и Gigabyte, которые превышают 12 ГиБ/с при 8–64 потоках, или даже Founders Edition, которая поддерживает примерно 8.7 ГиБ/с в среднем ценовом сегменте. В целом, Dell остается стабильной, но явно отстает от лучших систем по производительности записи 1 млн записей при высоком параллелизме.
Средняя задержка записи GDSIO 1М
Анализируя среднюю задержку записи GDSIO (1M), Dell начинает с примерно 0.6 мс при 1 потоке, постепенно увеличивая ее до 0.8 мс при 2 потоках и 1.2 мс при 4 потоках. Задержка продолжает расти, достигая примерно 2.5 мс при 8 потоках, 5.0 мс при 16 потоках и 9.5 мс при 32 потоках, прежде чем достичь около 19.0 мс при 64 потоках и остановиться на уровне около 40.0 мс при 128 потоках.
Хотя Dell масштабируется более плавно, чем ASUS, у которого время выполнения резко возрастает до более чем 100 мс при 64 потоках, он все же отстает от Acer и Gigabyte при более высокой параллельности, которые остаются ближе к диапазону 14 мс при 128 потоках. В целом, Dell поддерживает контролируемую, но среднюю по уровню задержку записи больших блоков по мере увеличения количества потоков.
Заключение
Dell Pro Max с GB10 объединяет стандартизированную платформу NVIDIA GB10 Spark в корпусе Dell Pro Max, сохраняя ту же вычислительную базу, что и во всей экосистеме. В тестах vLLM производительность при выполнении задач искусственного интеллекта оставалась на уровне остальных систем Spark, демонстрируя высокую масштабируемость Prefill и предсказуемое поведение при выполнении задач Equal и Decode.
В плане тепловых характеристик Dell показала более высокие температуры во время интенсивных переходов в режиме предварительного заполнения, включая повышенные температуры NVMe по сравнению с некоторыми конкурентами. Однако при длительных нагрузках на декодирование температура стабилизировалась в пределах конкурентоспособных значений, без признаков нестабильности или снижения производительности. Энергопотребление графического процессора оставалось в пределах ожидаемых значений для данной платформы.
В тестах GPU Direct Storage компания Dell показала хорошие результаты при масштабировании пропускной способности чтения до 16K и продемонстрировала надежный контроль задержки записи при низких и средних уровнях параллелизма. При больших объемах передачи данных (1 МБ) пропускная способность стабилизировалась раньше, чем у Acer и Gigabyte, при большем количестве потоков, что, по-видимому, связано с конкретной конфигурацией SSD Gen4, а не с какими-либо ограничениями самой архитектуры GB10. К сожалению, Dell приняла ряд неудачных решений в отношении хранилища данных в своей реализации GB10, не предложив варианты SSD Gen5. Кроме того, в их предложении на 2 ТБ используется SSD Gen4 QLC, который, вероятно, покажет худшие результаты, чем те, что представлены в этом обзоре.
В линейке Spark основные параметры обработки данных в области ИИ остаются узко сгруппированными. Различия заключаются в выборе реализации, а не в чистой вычислительной мощности.
Страница продукта – Dell Pro Max с GB10
Рейтинг: Dell Pro Max с 10 ГБ оперативной памяти входит в число протестированных нами настольных компьютеров, занимающих лидирующие позиции в рейтинге лучших настольных компьютеров для локального ИИ.
Amazon