存儲評論網

MSI XpertStation WS300 散熱:為什麼 1,300W 的 GB300 處理器在桌面上不會降頻

消費者  ◇  工作站

我們評測MSI XpertStation WS300後,收到的最常見的問題都圍繞著一個關鍵主題。 GB300 Grace Blackwell Ultra Superchip 是一款 1,300W 的處理器,通常安裝在液冷機架中,那麼把它裝進塔式機箱後,散熱情況會如何呢?這種擔憂不無道理:GB300 系統一旦達到其溫度極限,效能就會下降;而如果系統在持續高負載下降頻,就無法發揮其應有的效能。在我們的評測中,我們提到 WS300 在測試過程中保持了良好的散熱和穩定性。原因在於 MSI 本身的散熱設計數據,以及我們在系統運作過程中記錄的溫度、功耗和時脈頻率曲線。

MSI XpertStation WS300 內部結構:GB300 Superchip 處理器、SOCAMM 記憶體和 ConnectX-8 均採用銅製冷板,並配有編織冷卻液管。

循環需要做什麼

DGX Station 的散熱預算由 NVIDIA 設定;GB300 模組的 SuperChip 功耗上限為 1,300W,整個系統由一個 1,600W 的電源供電,該電源還需為儲存設備、水泵、風扇以及任何可選的 RTX PRO 顯示卡供電。這 1,300W 的熱量幾乎全部轉化為四個部件的熱量:Blackwell Ultra GPU 及其 252GB 的 HBM3e 顯存、72 核 Grace CPU、分佈在四個 SOCAMM LPDDR5X 模組上的 496GB 內存,以及帶有兩個 400GbE 光纖端口的 ConnectX-8 SuperNIC 網卡。 MSI 為這四個部件都配備了冷板,散熱迴路通過兩個 360mm 冷排和六個 120mm 風扇運行。一個獨立的 120mm 機殼風扇負責為 SSD 和其他風冷部件提供機殼內的空氣流通。 MSI 將該組件的 CPU 和 GPU 功耗標為 1,400W,比 NVIDIA 允許 Superchip 功耗高出約 100W。

這100瓦的餘裕是一個至關重要的設計決策。一個僅依額定負載設計的迴路,無法應付過熱的辦公環境、積滿灰塵的散熱器或轉速不足的風扇。而一個功率餘裕高於額定功率的迴路,意味著晶片會在達到其熱極限之前就達到其功率極限。

MSI冷板數據

微星與我們分享了這個循環背後的特性數據。該公司將這種方法稱為 CIT(組件完整性測試),並將曲線標註為經驗曲線:它們是在測試台上經過反覆的壓力和熱循環測量得到的。第一個圖表是熱工程師最關心的。它繪製了 GPU 和 CPU 冷板的熱阻(單位為攝氏/瓦)與冷卻液流量的關係圖,以及每個冷板對水泵造成的壓力降。

MSI XpertStation WS300 冷板效能圖表:GPU 與 CPU 冷板熱阻與壓降與冷卻液流量的關係

在流量為 0.3 升/分鐘的涓流下,GPU 散熱板的初始溫度約為 0.031 攝氏度/瓦,隨著流量的增加而急劇下降,在 1.5 升/分鐘時約為 0.017 攝氏度/瓦,在 3 升/分鐘時約為 0.012 攝氏度/瓦。 CPU 散熱板所涵蓋的功耗遠低於 GPU,因此溫度更高,在 1.5 公升/分鐘時約為攝氏 0.028 度/瓦。熱阻是功率轉換為溫度的關鍵因素:在 1.5 公升/分鐘的流量下,每 100 瓦的功率流過 GPU 散熱板,冷卻液與散熱板之間的溫度就會升高約攝氏 1.7 度。如果功率達到 1,000 瓦,散熱板的溫度將比水溫高出約攝氏 17 度。但代價是壓降,壓降與流量的平方成正比。在 1.5 公升/分鐘的流量下,GPU 散熱板會使水泵壓降增加約 1.1 PSI,CPU 散熱板會使水泵壓降增加約 1.9 PSI。超過 2 LPM 後,曲線趨於平緩,因此此迴路的設計運行範圍為 1.5 至 2 LPM;更高的流量會帶來遞減的熱收益,而泵浦的成本卻很高。

散熱器、風扇和噪音權衡

第二組圖表涵蓋了循環迴路的另一端。 ATD 指的是環境溫度差,即冷卻液離開散熱器後溫度高於室溫空氣溫度的差。由於循環迴路中任何零件的溫度都無法低於其所供水的溫度,因此 ATD 是系統中每個組件溫度的最低標準。 MSI 繪製了兩個 360mm 散熱器在 1 至 2 LPM 流速下的 ATD 與熱負荷關係圖,其中一次測試使用了六個風扇 100% PWM(脈衝寬度調變)轉速,另一次使用了 60% 轉速。

MSI XpertStation WS300 散熱器接近溫度圖(風扇 PWM 轉速 100%):冷卻液溫度高於環境溫度與熱負荷的關係(流量 1 至 2 LPM)。

在風扇全速運轉時,散熱器在整個流量範圍內,在1,000W熱負載下,能將冷卻液溫度保持在環境溫度5到9攝氏度以內;在1,400W負載下(超過Superchip的功率限制),則能保持在8到12攝氏度以內。曲線幾乎呈線性,冷卻液流速越慢,在散熱器中停留的時間越長,流出時的溫度也越接近室溫,因此1升/分鐘的曲線位置最低;但缺點是,從第一張圖表可以看出,低流量時冷板阻力較高,因此迴路的最佳工作點需要在兩者之間取得平衡。對於放在辦公桌旁的系統來說,60% PWM曲線更為實際,因為沒有人會在辦公室裡讓六個120毫米風扇全速運轉(或者說,沒有人願意這樣做)。

MSI XpertStation WS300 散熱器接近溫度圖(風扇 PWM 轉速 60%):冷卻液溫度高於環境溫度與熱負荷的關係(流量 1 至 2 LPM)。

在 60% 負載下,平均溫度 (ATD) 大約翻倍:1,000W 時為 10 至 16℃,1,400W 時為 15 至 23℃,這算是相對較小的溫度升高。即使在 Superchip 全功率運轉且風扇轉速降低的情況下,冷卻液進入冷板的溫度也僅比室溫高出約 23℃。加上第一張圖表中 GPU 冷板溫度升高的 17℃,Blackwell Ultra 封裝在 1,000W 功率下的溫度比環境溫度高出約 40℃,完全在正常辦公環境下的工作溫度範圍內。 MSI 的最後一張圖表是散熱器的風側阻抗曲線,顯示了風扇需要克服的壓力才能將空氣吹過鰭片組,在 135 CFM 風量下水柱高度約為 1 毫米,在 185 CFM 風量下約為 2 毫米。這是一個低阻力核心,這也是風扇可以低速運轉的原因。

MSI XpertStation WS300散熱器空氣阻抗曲線:壓力降(毫米水柱)與空氣流量(立方英尺/分鐘)的關係。
MSI XpertStation WS300 內部的液冷式散熱器、風扇和編織管

我們的騎行:在GB300上大約花了3個小時

設計曲線描述了循環應該執行的操作,為了了解其實際運行情況,我們記錄了 WS300 在 2.8 小時的測試過程中的運行情況,該測試分為五個階段:首先是持續 GPU 負載下的 75 分鐘老化測試;然後是三種不同配置下透過 vLLM 提供的 DeepSeek v4 Flash 服務;接著是 512 個不同配置下透過 vLLM 提供的 DeepSeek v8,192 Flash 服務;接著是 512 個代權1,024 個輸出的預填充工作負載;最後是 1,024 個輸入和 8,192 個輸出的解碼工作負載,並逐步增加並發量;最後是空閒觀察視窗。我們持續採集了 GPU、HBM、CPU 和電源遙測資料。冷卻液溫度、機殼空氣溫度和主機板溫度來自 BMC,我們每隔幾分鐘輪詢一次 BMC。每個圖表中的陰影區域標示了各個階段。

MSI XpertStation WS300 Superchip 溫度圖表,展示了在 2.8 小時運行期間 CPU、GPU、HBM、DRAM 和 ConnectX-8 的溫度,涵蓋了老化測試、三個 DeepSeek v4 Flash 推理階段以及空閒狀態。

在整個老化測試過程中,Blackwell Ultra 核心溫度維持在 60°C,HBM3e 顯存溫度略高,為 70°C,Grace 顯存溫度為 64°C。這些是在 GPU 功耗約為 1,000W 時的穩定溫度,並且在 75 分鐘內沒有上升,這表明循環已達到平衡並留有餘裕。推理階段的平均溫度較低,因為負載更具突發性:在相同負載下,GPU 的最高溫度再次達到 60°C,在長時間解碼爬坡期間達到 58°C,HBM 的最高溫度為 73°C。 DRAM 線路上的鋸齒波是 BMC 取樣間隔造成的;LPDDR5X 本身的最高溫度約為 75°C。在大部分測試過程中,機殼內溫度最高的感測器是 ConnectX-8,溫度為 76 至 77°C。 GPU 和 HBM 的空閒溫度穩定在 33 至 36°C,Grace 的溫度約為 48°C。

MSI XpertStation WS300 系統溫度圖表顯示了在 2.8 小時運行期間冷卻液的供回水溫度、機箱空氣溫度、BMC 底板溫度和機箱 PCB 溫度。

在老化測試期間,冷卻液離開散熱器時的溫度為 37°C,從冷板返回時的溫度為 47°C,整個迴路溫差為 10°C。機殼內部空氣溫度達到 46°C,BMC 底板溫度達到 52°C,最高溫度板感知器溫度達到 56°C。所有這些溫度曲線在負載運轉的前 15 分鐘內均達到穩定水平並保持平穩,負載停止後幾分鐘內溫度便會回落。待機狀態下,冷卻液供應溫度維持在 30 至 31°C。

MSI XpertStation WS300 功耗圖表顯示了 GPU、CPU 和 Superchip 總功耗在老化、推理和空閒階段與 1,300W 限制的比較。

老化測試期間,GPU功耗穩定在995W左右,Grace程式又增加了85到90W,使得Superchip總功耗接近1,080W,這與上文冷卻液溫差對應的負載相符。在高並發情況下,相同負載下的GPU功耗曾短暫達到1,000W;預填充階段以短脈衝形式運行,總功耗約為1,050W;解碼階段則最清晰地展現了推理伺服器如何負載GPU,隨著每個階段並發量的翻倍,功耗從大約500W躍升至略高於1,000W。在整個運行過程中,Superchip總功耗始終保持在圖表所示的1,300W上限的200W以內。值得注意的是待機功耗:GPU在未運行任何程式的情況下功耗為150到210W,Superchip總功耗為220到290W。

MSI XpertStation WS300 頻率圖表顯示,在整個測試過程中,GPU 時脈頻率穩定在 2.07GHz 左右,CPU 接近 3.5GHz,HBM 為 4,000MHz,LPDDR5X 為 3,200MHz。

從老化測試開始到結束,Blackwell Ultra 的頻率始終保持在 2.07GHz 左右,整個測試過程中頻率保持平穩,沒有任何波動。 Grace 顯存頻率穩定在 3.5GHz 附近,抖動正常;HBM 記憶體頻率維持在 4,000MHz;LPDDR5X 記憶體頻率維持在 3,200MHz。如果 GPU 受熱限制,其頻率會表現為非常不穩定,因為睿頻演算法會降低頻率然後恢復;如果受功耗限制,其頻率則會隨負載波動;但在我們的測試中,這兩種情況都沒有出現。在這些負載下,系統溫度既沒有高到足以使 GPU 頻率低於其最高頻率,功耗也沒有高到足以使 GPU 頻率低於最高頻率。

將兩者連結起來

MSI 的曲線圖和我們的測量結果獨立得出,但兩者卻得出了相同的結論。首先,在 1,080W 功率下,冷卻液溫度升高了 10℃。液體的導熱係數等於流量乘以溫升,因此,溫升變化量顯示水基冷卻液的流量約為 1.5 公升/分鐘,這與 MSI 的測試結果完全吻合。參考 MSI 在該流量和負載下的散熱器圖表:風扇全速運轉時,冷卻液溫度應比室溫高約 8℃;風扇轉速為 60% 時,溫度應比室溫高約 14℃。由於 MSI 的實驗室沒有校準過的環境溫度探頭,我們無法精確計算溫度,但 37℃ 的供水溫度與實驗室環境溫度較高且風扇轉速遠低於全速運轉的情況相符。

在 1.5 LPM 的流速下,GPU 散熱板的實測熱阻約為 0.017 C/W,在 995W 的功耗下,預計冷卻液到散熱板的溫度會升高 17°C。我們測量了 Blackwell Ultra 晶片的溫度,其工作溫度為 60°C,電源溫度為 37°C,兩者相差 23°C。這 6°C 的溫差來自散熱介面和封裝本身,這是散熱板無法控制的路徑部分,對於這種尺寸的雙光柵 GPU 來說,這個溫差很小。散熱板的實際工作情況與 MSI 的基準測試數據相符,晶片和冷卻液之間的溫差由物理定律決定。

反過來計算預算,我們之前討論的餘裕就更加明顯了。 NVIDIA 的資料中心 GPU 要到晶片溫度達到 80 多度才會開始降頻,因此 WS300 在持續滿載的情況下,Blackwell Ultra 晶片的溫度與熱管理系統介入的溫度之間大約還有 20 攝氏度的餘量,而此時整個散熱迴路的功耗為 1,080 瓦。即使在最壞情況下,Superchip 的 1,300 瓦功耗限制下,透過 0.017 攝氏度/瓦的散熱片額外增加 220 瓦的功耗,GPU 的溫度也只會升高不到 4 攝氏度/瓦的散熱片額外增加 220 瓦的功耗,GPU 的溫度也只會升高不到 4 攝氏度,而 MSI 的散熱器圖表顯示,即使增加這 220 瓦也只冷卻液的溫度。

這對買家意味著什麼

WS300 在持續推理或合成負載下不會出現降頻,因為其冷卻迴路的容量超過了 Superchip 的功率限制,實測溫度在 GPU 處留有約 20°C 的餘量,而 HBM 和 CPU 的運行溫度則遠低於其極限溫度。溫度最高的組件是 ConnectX-8,這也是它被接入冷卻迴路的原因。冷卻液溫度會在 15 分鐘內穩定下來,並在幾分鐘內恢復正常,因此連續運行任務不會導致溫度累積。風扇轉速是噪音和冷卻液溫度之間唯一的調節因素,MSI 的 60% 負載數據顯示,在風扇需要加速運轉之前,系統可以承受很大的風量。唯一沒有縮減的是電氣方面:在北美仍然需要 20A 的電路,而 252GB HBM3e 和 72 核 Arm CPU 的待機功耗在 220 到 290W 之間。不過話說回來,有了這種投資,系統就很少閒置。

本報告由微星科技贊助。本報告中所表達的所有觀點和意見均基於我們對所討論產品的客觀評價。

MSI XpertStation WS300 產品頁面

參與 StorageReview

電子報| YouTube | PodcastiTunes / Spotify | Instagram | Twitter | TikTok | RSS訂閱

布賴恩·比勒

Brian 位於俄亥俄州辛辛那提市,是 StorageReview.com 的首席分析師兼總裁。