早在去年十月我們首次拿到 NVIDIA DGX Spark 時,我們就清楚地意識到 NVIDIA 確實致力於將資料中心級 AI 縮小到可以放在桌面上的裝置。我們最初的 Founders Edition 樣機讓我們提前了解基於 Grace Blackwell 的 GB10 平台在緊湊型獨立設備中的強大性能。
自那時起,隨著OEM設計方案的不斷完善,生態系統日益成熟。我們最近收到了兩台搭載GB10處理器的戴爾Pro Max筆記型電腦進行評測。我們將它們與我們其他的Spark系統並排比較,以評估不同廠商實現方案之間的性能一致性、散熱情況以及整體設計差異。
初代 Spark 專注於參考硬件,而戴爾則為該平台注入了自身獨特的風格。搭載 GB10 的 Pro Max 採用戴爾 L6 機殼設計,外觀更加精緻,更具工業美感,更適合桌面使用,在保留 GB10 核心功能的同時,也展現出鮮明的個性。它不再像是一款開發套件,而更像是一款面向專業工作空間的成品。
截至撰稿時,戴爾官網路上的1TB配置售價為4,061.34美元,定位為高階桌面AI設備。本次評測中,我們將比較戴爾GB10平台與我們測試過的其他Spark系統,重點在於其在持續高負載下的實際效能和散熱表現。
戴爾 Pro Max GB10 規格
下表概述了戴爾 Pro Max(配備 GB10)的可用儲存配置和建置選項。
| 規格 | 戴爾 Pro Max 附 GB10 |
|---|---|
| 尺寸和重量 | |
| 高度 | 2在 |
| 信號寬度 | 5.9在 |
| 深度 | 5.9在 |
| 重量 | 2.69磅 |
| 處理器 | |
| 處理器類型 | NVIDIA GB10(Grace Blackwell Superchip)(20 核心) |
| 集成顯卡 | NVIDIA Blackwell GPU(整合式顯示卡) |
| 記憶體應用 | |
| 內存類型 | LPDDR5x(統一系統記憶體) |
| 內存配置 | 128 GB LPDDR5x 統一系統內存 |
| 內存帶寬 | 273 GB/s (8533 MT/s) |
| 操作系統 | |
| 支持的操作系統 | NVIDIA DGX 作業系統 |
| 外部連接埠和插槽 | |
| 網絡端口 | 一個 RJ45 (10GbE) NVIDIA ConnectX-7 網路卡(200G × 2 QSFP) |
| USB端口 | 三個 USB 3.2 Gen 2×2 Type-C (20Gbps) 一個支援PD的USB 3.2 Gen 2×2 Type-C接口 |
| 視訊連接埠 | 一個 HDMI 2.1a 接口 |
| 電源適配器端口 | USB Type-C(PD 輸入) |
| 安全槽 | 無 |
| 無線應用 | |
| WiFi | WiFi 7(AW-EM637,2×2) |
| 藍牙 | 藍牙5.4 |
| 儲存 | |
| 儲存選項 | M.2 Gen4 NVMe:1TB / 2TB / 4TB(Opal 2.0 版本容量有所不同) |
| 電源適配器 | |
| 類型 | 280W 外置轉接器(USB Type-C) |
戴爾 Pro Max 採用 GB10 機身和設計
整體而言,戴爾在設計上採用了與Pro系列桌上型電腦不同的方法,為其配備了蜂窩狀前面板,使其儘管機身僅1公升,卻擁有企業級伺服器的外觀。整體做工令人印象深刻。槍灰色金屬外殼賦予其堅固耐用的手感,使其既便攜又耐用,無論是在繁忙的辦公桌上還是在實驗室中都能勝任。戴爾還在GB10設計中加入了LED電源指示燈,這是我們目前在市場上只見過的一款產品。
GB10 的前後高度均為 1.80 英寸,最高點為 2.0 英寸。其緊湊的 5.90 英寸見方的佔地面積極小,重量在 2.69 至 2.96 磅之間,具體取決於配置。
在裝置背面,你會發現一個 RJ45 10GbE 乙太網路連接埠、兩個 QSFP 200 Gbps 連接埠(Realtek RTL8127-CG;NVIDIA ConnectX-7)、三個支援 DisplayPort 1.4a 替代模式和供電功能的 USB 3.2 Gen 2×2 (20 月 2.1 月。戴爾與其他 OEM 設計(例如 Founders Edition)的不同之處在於,它配備了一個更大的 280W USB Type-C 電源適配器,該適配器通常用於戴爾的便攜式工作站產品組合中,為持續工作負載提供了充足的電源餘裕。
GB10 內部搭載 AzureWave AW-EM637 無線模組,提供 Wi-Fi 連接,可靈活部署。儲存方面,配備一個 M.2 2230/2242 插槽,支援 PCIe Gen 4 SSD,實現快速啟動和資料存取。內存方面,配備 128GB LPDDR5X 內存,運行速度高達 8533 MT/s,可提供滿足高要求 AI 工作負載所需的高頻寬。
該系統的核心是專為人工智慧推理和邊緣運算而設計的 NVIDIA GB10 晶片。系統預先設定了 NVIDIA DGX OS,這是 NVIDIA 優化的 Linux 發行版,包含預先設定的驅動程式、CUDA 程式庫以及 TensorFlow 和 PyTorch 等常用人工智慧框架。這使得用戶無需進行複雜的系統設定即可立即部署人工智慧應用程式。
戴爾 Pro Max 搭載 GB10 散熱測試
為了測試戴爾 Pro Max(配備 GB10 散熱器)內部組件的散熱性能,我們將其與 Founders Edition 版本以及華碩、宏碁和技嘉等 OEM 廠商的產品進行了比較。我們在Spark 散熱測驗論文中對此進行了更深入的探討。
我們對整個技術堆疊進行了監控,在給定的時間段內,工作負載分為三個階段,利用率在大約一小時內逐步提升。這使我們能夠觀察設備在長時間使用和不同工作負載階段的效能。我們監控了 CPU、GPU、網路、NVMe 的溫度以及總功耗。
CPU溫度
在CPU散熱測試中,配備GB10主機板的戴爾Pro Max在高負載階段的溫度表現接近同組產品的前列。在預填充高負載測試中,戴爾在1500秒左右記錄到約87.7°C的峰值溫度,使其在該工作負載轉換階段成為溫度最高的系統之一。
在 ISL/OSL 相等的測試階段,戴爾的 CPU 溫度與中高階機型基本一致,與華碩和 Founders Edition 版本一樣,穩定上升到 62–75°C 的範圍內。技嘉在此階段的 CPU 溫度明顯更低,而宏碁則保持了最低的整體 CPU 溫度。
在預填充高負載測試下,戴爾的溫度曲線上升速度比大多數競爭對手更快,峰值接近 88°C,隨後進入解碼高負載測試。一旦進入持續解碼工作負載,系統溫度便穩定在 80–83°C。雖然這使得戴爾的溫度在同類產品中偏高,但它在長時間負載下展現出了穩定的散熱控制能力,而非持續升溫。
在整個測試過程中,宏碁的整體散熱表現最佳,即使在持續測試階段,溫度也保持在 60°C 左右。相較於戴爾,技嘉的散熱表現也較為溫和。
總體而言,戴爾 Pro Max 搭配 GB10 在突發工作負載期間的 CPU 峰值溫度是該組中最高的之一,但一旦工作負載恢復正常,其持續負載溫度就達到了具有競爭力的水平。
GPU溫度
GPU 溫度也呈現類似的趨勢。在 Prefill Heavy 測試期間,戴爾顯示卡的峰值溫度達到了約 80°C,在突發測試條件下,其溫度處於堆疊溫度的較高範圍。
在 ISL/OSL 相等的測試階段,戴爾主機板的溫度迅速攀升至 60°C 左右,與華碩和 Founders Edition 版本的溫度基本一致。技嘉和宏碁在此階段的溫度則較低。
進入重解碼模式後,戴爾主機板的溫度穩定在 68–71°C 之間。雖然仍高於宏碁和技嘉,但與突發解碼階段相比,溫度差距有所縮小。在持續解碼過程中,公版主機板和華碩主機板的溫度與戴爾主機板的溫度區間相似。
綜合來看,戴爾系統雖然GPU峰值溫度較高,但在持續高負載下表現出穩定且可預測的行為。
NVMe溫度
在儲存散熱方面,戴爾的配置與其他廠商的配置差異最為明顯。在預填充重度測試中,NVMe固態硬碟的峰值溫度約為63-64°C,在對比組中處於較高水平。
在等效ISL/OSL測試中,戴爾硬碟的初始溫度在40°C左右,並穩定上升,在整個測試階段,其溫度略高於大多數競爭對手。在持續解碼工作負載下,硬碟溫度穩定在59-61°C之間。
雖然這些溫度仍在標準的 NVMe 運行規範範圍內,但與 Acer 和 Gigabyte 相比,這表明其氣流或儲存放置位置相對更緊湊,這兩家公司在相同階段都保持了較低的持續 NVMe 溫度。
NIC 溫度
網路卡溫度變化趨勢類似,但不如戴爾網路卡明顯。戴爾網卡在預填充重負載運轉時溫度峰值在 70°C 左右,在解碼重負載運轉時溫度穩定在 60°C 以上。
在整個測試過程中,戴爾的溫度始終處於較高水平,但與華碩或公版機型相比,溫度差異並不顯著。宏碁再次保持了最低的整體溫度。
GPU功耗
GPU功耗表現更接近同類產品的中游水準。在預填充重載測試階段(大約在1,400-1,600秒之間),戴爾顯示卡的GPU功耗峰值約為70W。這短暫地接近了公版顯示卡74W的峰值,但總體而言仍略低一些。
在 Equal ISL/OSL 測試中,戴爾的功耗從大約 27W 逐漸提升至 40W 左右,與其他系統基本同步。在 Prefill Heavy 測試中,其功耗短暫達到 70W,隨後回落。在 Decode Heavy 測試中,戴爾的功耗穩定在 40-45W 之間,略高於宏碁和華碩,但低於 Founders Edition,後者在基準測試的剩餘部分保持了最高的持續 GPU 功耗。
從功耗角度來看,戴爾似乎並沒有過度驅動GPU。相反,其相對於某些競爭對手較高的發熱量可能更多地源於機箱風道和內部佈局設計,而非過高的功率分配。
熱力總結
在CPU、GPU、NVMe和網路卡監控方面,配備GB10的戴爾Pro Max在突發性高負載的預填充任務中,溫度通常偏高。然而,在持續解碼任務中,溫度穩定在具有競爭力的範圍內,並沒有出現過高的溫度波動。
宏碁的整體散熱表現始終最佳,技嘉的散熱性能也優於戴爾。而公版和華碩的散熱表現則與戴爾更為接近。
最終,數據顯示戴爾的實現方式優先考慮緊湊的設計和工作站式的封裝,在負載下散熱性能保持穩定,但在激烈的工作負載轉換期間,與同類產品中散熱性能最好的機箱相比,散熱餘量較小。
戴爾 Pro Max GB10 效能測試
為了評估搭載 GB10 的 Dell Pro Max,我們使用 vLLM Online Serving 基準測試對 Spark 單元進行了測試。 vLLM Online Serving 基準測試是目前應用最廣泛的大型語言模式高吞吐量推理和服務引擎。此基準測試透過向正在運行的 vLLM 伺服器發送並發請求來模擬真實生產環境中的工作負載,並測量關鍵指標,包括總令牌吞吐量(每秒令牌數)、首令牌到達時間和每個輸出令牌的產生時間,同時檢視不同負載條件下的效能。
我們的測試涵蓋了多種模型,包括密集架構和微擴展資料類型,並評估了三種工作負載場景下的效能:均衡 ISL/OSL、預填密集型和解碼密集型。這些場景代表了不同的實際服務模式,從均衡的輸入輸出負載到計算密集型的提示符號處理和記憶體頻寬受限的令牌產生。
除了搭載 GB10 顯示卡的戴爾 Pro Max 之外,我們還以 NVIDIA Founders Edition Spark 作為參考基準,並對華碩、宏碁和技嘉的 OEM 系統進行了基準測試。這使我們能夠將戴爾的測試結果置於更廣泛的競爭格局中進行分析,並了解其在不同型號和工作負載類型中的領先、並駕齊驅或落後情況。
GPT-OSS-120B
在 Equal ISL/OSL 模式下,Dell 的效能從 68.57 tok/s 擴展到 670.83 tok/s,在整個批次範圍內都處於中等水平。預填重型任務的初始效能為 298.60 tok/s,當批次大小為 64 時,效能可擴展至 2,707.15 tok/s,儘管初始效能較為一般,但在較大的批次大小下,Dell 仍能躋身頂級行列。解碼重型任務的效能範圍為 37.74 tok/s 到 273.54 tok/s,與其他工作負載類型相比,其效能擴充性仍然有限。
GPT-OSS-20B
ISL/OSL 相等時,吞吐量從 90.76 到 1,585.28 tok/s 呈穩定增長,且隨批次大小的增加而提升。預填充重型處理器在批次大小為 64 時達到 4,453.55 tok/s,這是戴爾在所有測試機型中最高的絕對吞吐量。解碼重型處理器的吞吐量範圍為 49.88 至 687.17 tok/s,且在整個批次範圍內保持穩定成長。
Qwen3 程式設計師 30B A3B FB8
等 ISL/OSL 的效能範圍為 103.76 至 1,258.08 tok/s,不同批次大小的供應商效能分佈較為集中。預填重型任務的效能在批次大小為 64 時可達 2,018.58 tok/s,在高批次大小下,各系統之間的效能差異很小。解碼重型任務的性能範圍為 54.69 至 493.82 tok/s,不同供應商的性能分佈也較為集中。
Qwen3 編碼器 30B A3B 基地
等 ISL/OSL 的效能在不同批次大小下介於 62.74 至 748.04 tok/s 之間。預填充重型任務的效能介於 266.80 至 1,693.68 tok/s 之間,在中等和較大批次大小下均保持在較高水準。解碼重型任務的效能在整個工作負載範圍內介於 34.11 至 365.68 tok/s 之間。
Llama 3.1 8B 指令 FP4
等 ISL/OSL 效能隨批次大小變化,範圍從 76.03 到 2,776.30 tok/s。預填充重型處理器在大批次大小下將 Dell 的效能置於中等水平,其吞吐量與其他處理器一樣逐步提升。解碼重型處理器的效能範圍從 40.87 到 575.50 tok/s,並隨批次大小逐步提升。
Llama 3.1 8B 指令 FP8
等量ISL/OSL的效能範圍為24.50至1,079.44 tok/s,各供應商的效能在整個批次範圍內都非常接近。預填充重型設備在批次大小為64時達到245.35 tok/s,隨著批次大小的增加,各供應商之間的效能差距逐漸增加。解碼重型設備的性能範圍為23.60至464.12 tok/s,各供應商的性能範圍基本一致。
GPU直接儲存
我們在 Spark 上進行的測試之一是 MagnumIO GPU 直接儲存 (GDS) 測試。 GDS 是 NVIDIA 開發的功能,可讓 GPU 在存取儲存在 NVMe 磁碟機或其他高速儲存裝置上的資料時繞過 CPU。 GDS 無需透過 CPU 和系統記憶體路由數據,而是支援 GPU 和儲存設備之間的直接通信,從而顯著降低延遲並提高數據吞吐量。
戴爾在 Pro Max GB10 中使用了 Phison ESL04TBTLCZ 4TB Gen4 SSD。雖然這與其他 4TB 型號的容量相同,但它是 Gen4 型號,讀取和寫入速度較低。
GPU 直接儲存的工作原理
傳統上,當GPU處理儲存在NVMe磁碟機上的資料時,資料必須先經過CPU和系統記憶體才能到達GPU。由於CPU充當中間人,這個過程會造成效能瓶頸,增加延遲並消耗寶貴的系統資源。 GPU直接儲存(GPU Direct Storage)透過允許GPU直接透過PCIe匯流排存取儲存裝置中的數據,消除了這種低效率。這種直接路徑減少了資料傳輸的開銷,從而實現了更快、更有效率的資料傳輸。
人工智慧工作負載,尤其是涉及深度學習的工作負載,是高度資料密集的。訓練大型神經網路需要處理 TB 級的數據,資料傳輸中的任何延遲都可能導致 GPU 利用率不足和訓練時間更長。 GPU 直接儲存透過確保資料盡快傳輸到 GPU、最大限度地減少空閒時間並最大限度地提高運算效率來解決這一挑戰。
此外,GDS 對於涉及串流大型資料集的工作負載特別有利,例如視訊處理、自然語言處理或即時推理。透過減少對 CPU 的依賴,GDS 可以加速資料移動並釋放 CPU 資源用於其他任務,從而進一步增強整體系統效能。
GDSIO 讀取吞吐量 16k
從 GDSIO 16K 讀取吞吐量來看,戴爾主機板在單執行緒時約為 0.50 GiB/s,在 8 執行緒時提升至 1.34 GiB/s,明顯優於華碩主機板的約 0.95 GiB/s。這項優勢在 16 執行緒時依然存在,戴爾主機板的讀取速度為 2.26 GiB/s,而華碩主機板約為 1.58 GiB/s;在 32 執行緒時,戴爾主機板的讀取速度再次領先,達到 3.32 GiB/s,而華碩主機板為 2.55 GiB/s。
即使在 64 線程的情況下,戴爾仍保持 4.35 GiB/s 的優勢,領先華碩的約 3.68 GiB/s。只有在 128 個執行緒時,戴爾的讀寫速度才穩定在 4.30 GiB/s 左右,而其他平台的讀寫速度則較高。在整個核心數擴展範圍內,戴爾始終領先,並以明顯優勢勝過華碩系統。
GDSIO 讀取平均延遲 16K
從 GDSIO 讀取平均延遲 (16K) 來看,戴爾在大部分擴展曲線上都提供了最低的延遲。在單線程時,其延遲約為 0.03 毫秒,與華碩非常接近,但在雙線程(0.09 毫秒 vs. 0.13 毫秒)和四線程(0.112 毫秒 vs. 0.118 毫秒)時,戴爾迅速拉開差距。在八線程(0.092 毫秒 vs. 0.13 毫秒)、十六線程(0.108 毫秒 vs. 0.155 毫秒)和三十二線程(0.148 毫秒 vs. 0.193 毫秒)時,戴爾仍然保持優勢。
在 64 線程的情況下,戴爾的延遲約為 0.222 毫秒,略低於華碩的 0.267 毫秒,保持了競爭力。只有在 128 個線程時,延遲才會急劇上升到 0.45 毫秒左右,與華碩在同一水平上的表現非常接近。總體而言,在低到中等並發水平下,戴爾的延遲始終低於華碩,直到線程數達到最高時才趨於一致。
GSDIO 寫入吞吐量 16K
從 GDSIO 寫入吞吐量 (16K) 來看,戴爾在單線程下表現出色,初始速度約為 0.35 GiB/s,並在較低並發數下迅速拉開差距,在雙線程下達到約 0.75 GiB/s,在四線程下達到約 1.55 GiB/s,明顯領先於華碩/ 0.戴爾在八線程下繼續提升至 2.33 GiB/s,並在 16 線程和 32 個線程下達到峰值 2.88–2.90 GiB/s,在這些線程數下均領先於其他廠商。
然而,超過 32 個執行緒後,戴爾的效能趨於平穩並略有下降,在 64 個執行緒時約為 2.90 GiB/s,在 128 個執行緒時則降至約 2.75 GiB/s。相較之下,宏碁、技嘉和 Founders Edition 的效能則在 64 個執行緒時迅速提升至 5 GiB/s 以上,並在 128 個執行緒時達到約 6.5 GiB/s。總體而言,戴爾在中低執行緒範圍內表現出色,但在高並發等級下,其效能擴展性不如效能頂尖的系統。
GDSIO 寫入平均延遲 16K
從 GDSIO 寫入平均延遲 (16K) 來看,戴爾在幾乎整個擴展曲線範圍內都提供了最低的延遲。在單執行緒時,其延遲約為 0.045 毫秒,在雙執行緒時保持在 0.05 毫秒,在四執行緒時保持在 0.04 毫秒,顯著低於華碩的 0.06 毫秒和 0.10 毫秒。在八線程時,戴爾的延遲約為 0.055 毫秒,而華碩約為 0.20 毫秒。在 16 線程時,差距進一步擴大,戴爾約為 0.085 毫秒,而華碩約為 0.35 毫秒。在 32 個線程時,戴爾仍然保持在 0.17 毫秒左右,而華碩則攀升至接近 0.68 毫秒。
即使在 64 線程的情況下,戴爾的寫入延遲也保持在 0.34 毫秒左右,而華碩則飆升至約 1.51 毫秒。只有在 128 個執行緒時,戴爾的寫入延遲才會略微上升至約 0.71 毫秒,但仍遠低於華碩的 3.10 毫秒以上。整體而言,隨著併發數的增加,戴爾在寫入延遲控制方面明顯優於華碩。
GDSIO 讀取吞吐量 1M
從 GDSIO 讀取吞吐量(1M)來看,戴爾的處理器在單線程下初始速度約為 2.6 GiB/s,雙線程下提升至 4.3 GiB/s,四線程下達到約 5.6 GiB/s。之後效能基本上趨於穩定,在 8 執行緒下約為 5.6 GiB/s,16 執行緒下約為 5.4 GiB/s,32 執行緒下約為 5.4 GiB/s,64 執行緒下約為 5.5 GiB/s,最終在 128 執行緒下接近 5.5 GiB/s。
雖然戴爾在早期擴展性和性能方面表現出色,但宏碁和技嘉在高線程數下繼續突破 11 GiB/s 的瓶頸,而 Founders Edition 版本接近 10 GiB/s,這使得戴爾在大塊讀取吞吐量方面穩居中端市場。
GDSIO 讀取平均延遲 1M
從 GDSIO 讀取平均延遲(1M)來看,戴爾的延遲在 1 個執行緒時約為 0.35 毫秒,2 個執行緒時約為 0.45 毫秒,4 個執行緒時約為 0.70 毫秒。延遲繼續以可控制的方式增加,在 8 個執行緒(1.50 毫秒)和 16 個執行緒(3.00 毫秒)時達到峰值,然後在 32 個執行緒時達到約 5.90 毫秒,在 64 個執行緒時達到約 12.40 毫秒,最後在 128 個執行緒時接近 25.40 毫秒。
雖然戴爾的擴展性優於華碩(華碩在 128 線程時延遲接近 29.60 毫秒),但在峰值並發情況下,戴爾的延遲仍然高於宏碁和技嘉,後兩者在 128 線程時的延遲都接近 11 毫秒。總體而言,戴爾在大塊讀取方面保持中等延遲水平,優於華碩,但在最高線程數下仍落後於延遲最低的平台。
GDSIO 寫入吞吐量 1M
從 GDSIO 寫入吞吐量(1M)來看,戴爾的 GDSIO 寫入吞吐量在 1 個執行緒時約為 2.6 GiB/s,在 2 個執行緒時增加到約 3.2 GiB/s,在 4 個執行緒時達到約 3.3 GiB/s。之後效能趨於平穩,在 8 到 64 個執行緒之間保持在 3.2 到 3.3 GiB/s 左右,然後在 128 個執行緒時略微下降到約 3.1 GiB/s。
雖然戴爾能夠提供穩定可靠的大塊寫入效能,但在高並發場景下,其效能卻不如宏碁和技嘉那麼出色。宏碁和技嘉在 8 到 64 個線程之間都能達到 12 GiB/s 以上的寫入速度,戴爾的 Founders Edition 版本在中等配置下也能保持約 8.7 GiB/s 的速度。整體而言,戴爾的效能雖然穩定,但在高併發 1M 寫入吞吐量方面,明顯落後於效能頂尖的系統。
GDSIO 寫入平均延遲 1M
從 GDSIO 寫入平均延遲(1M)來看,戴爾的延遲在 1 個執行緒時約為 0.6 毫秒,隨著執行緒數的增加,逐漸增加到 2 個執行緒時的約 0.8 毫秒和 4 個執行緒時的約 1.2 毫秒。延遲繼續攀升,在 8 個執行緒時約為 2.5 毫秒,16 個執行緒時約為 5.0 毫秒,32 個執行緒時約為 9.5 毫秒,在 64 個執行緒時達到約 19.0 毫秒,最終在 128 個執行緒時接近 40.0 毫秒。
雖然戴爾的擴展性比華碩更好(華碩在 64 線程時延遲會急劇飆升至 100 毫秒以上),但在更高的並發數下,戴爾仍然落後於宏碁和技嘉,這兩家廠商在 128 線程時延遲仍保持在 14 毫秒左右。總體而言,隨著線程數的增加,戴爾的大塊寫入延遲保持穩定,處於中等水平。
結語
戴爾Pro Max搭載了NVIDIA標準化的GB10 Spark平台,並將其整合到戴爾Pro Max機箱中,從而保持了與整個生態系統相同的底層運算基礎。在vLLM測試中,其持續的AI推理性能與其他Spark系統保持高度一致,在Equal和Decode工作負載下均表現出強大的預填充擴展性和可預測的性能。
在預填充(Prefill)任務高峰期,戴爾的散熱性能在同類產品中處於較高水平,包括NVMe固態硬碟溫度高於部分競爭對手。然而,在持續解碼(Decode)工作負載下,溫度穩定在具有競爭力的範圍內,沒有任何不穩定或降頻的跡象。 GPU功耗也保持在平台預期範圍內。
在GPU直接儲存測試中,戴爾在16K讀取吞吐量擴展方面表現出色,並在中低並發水平下展現了強大的寫入延遲控制能力。在1M傳輸量較大時,其吞吐量在高執行緒數下比宏碁和技嘉更早達到瓶頸,這種現像似乎與特定的第四代固態硬碟配置有關,而非GB10架構本身的限制。遺憾的是,戴爾在GB10的儲存配置方面做出了一系列令人失望的決定,沒有提供第五代固態硬碟選項。此外,其2TB版本採用的是第四代QLC固態硬碟,其效能可能不如本次評測結果所示。
Spark產品線的核心AI吞吐量基本一致。差異體現在實現方式的選擇上,而非原始處理能力。
產品頁面 – 戴爾 Pro Max with GB10
排行榜:戴爾 Pro Max 搭配 GB10 處理器,已入選我們「最佳本地 AI 桌上型電腦」排行榜。




Amazon