存储评论网

MSI XpertStation WS300 散热:为什么 1,300W 的 GB300 处理器在桌面上不会降频

电子消费品  ◇  打标工作站

我们评测完MSI XpertStation WS300后,收到的最常见的问题都围绕着一个关键主题。GB300 Grace Blackwell Ultra Superchip 是一款 1,300W 的处理器,通常安装在液冷机架中,那么把它装进塔式机箱后,散热情况会如何呢?这种担忧不无道理:GB300 系统一旦达到其温度极限,性能就会下降;而如果系统在持续高负载下降频,就无法发挥其应有的性能。在我们的评测中,我们提到 WS300 在测试过程中保持了良好的散热和稳定性。原因在于 MSI 自身的散热设计数据,以及我们在系统运行过程中记录的温度、功耗和时钟频率曲线。

MSI XpertStation WS300 内部结构:GB300 Superchip 处理器、SOCAMM 内存和 ConnectX-8 均采用铜质冷板,并配有编织冷却液管。

循环需要做什么

DGX Station 的散热预算由 NVIDIA 设定;GB300 模块的 SuperChip 功耗上限为 1,300W,整个系统由一个 1,600W 的电源供电,该电源还需为存储设备、水泵、风扇以及任何可选的 RTX PRO 显卡供电。这 1,300W 的热量几乎全部转化为四个部件的热量:Blackwell Ultra GPU 及其 252GB 的 HBM3e 显存、72 核 Grace CPU、分布在四个 SOCAMM LPDDR5X 模块上的 496GB 内存,以及带有两个 400GbE 光纤端口的 ConnectX-8 SuperNIC 网卡。MSI 为这四个部件都配备了冷板,散热回路通过两个 360mm 冷排和六个 120mm 风扇运行。一个独立的 120mm 机箱风扇负责为 SSD 和其他风冷部件提供机箱内的空气流通。 MSI 将该组件的 CPU 和 GPU 功耗标为 1,400W,比 NVIDIA 允许 Superchip 功耗高出约 100W。

这100瓦的余量是一个至关重要的设计决策。一个仅按额定负载设计的回路,无法应对过热的办公环境、积满灰尘的散热器或转速不足的风扇。而一个功率余量高于额定功率的回路,意味着芯片会在达到其热极限之前就达到其功率极限。

MSI冷板数据

微星与我们分享了该循环背后的特性数据。该公司将这种方法称为 CIT(组件完整性测试),并将曲线标注为经验曲线:它们是在测试台上经过反复的压力和热循环测量得到的。第一个图表是热工程师最关心的。它绘制了 GPU 和 CPU 冷板的热阻(单位为摄氏度/瓦)与冷却液流量的关系图,以及每个冷板对水泵造成的压降。

MSI XpertStation WS300 冷板性能图表:GPU 和 CPU 冷板热阻和压降与冷却液流量的关系

在流量为 0.3 升/分钟的涓流下,GPU 散热板的初始温度约为 0.031 摄氏度/瓦,随着流量的增加而急剧下降,在 1.5 升/分钟时约为 0.017 摄氏度/瓦,在 3 升/分钟时约为 0.012 摄氏度/瓦。CPU 散热板覆盖的功耗远低于 GPU,因此温度更高,在 1.5 升/分钟时约为 0.028 摄氏度/瓦。热阻是功率转化为温度的关键因素:在 1.5 升/分钟的流量下,每 100 瓦的功率流过 GPU 散热板,冷却液与散热板之间的温度就会升高约 1.7 摄氏度。如果功率达到 1,000 瓦,散热板的温度将比水温高出约 17 摄氏度。但代价是压降,压降与流量的平方成正比。在 1.5 升/分钟的流量下,GPU 散热板会使水泵压降增加约 1.1 PSI,CPU 散热板会使水泵压降增加约 1.9 PSI。流量超过 2 LPM 后,曲线趋于平缓,因此该回路的设计运行流量范围为 1.5 至 2 LPM;更高的流量会带来递减的热收益,但泵的成本却很高。

散热器、风扇和噪音权衡

第二组图表涵盖了循环回路的另一端。ATD 指的是环境温度差,即冷却液离开散热器后温度高于室温空气温度的差值。由于循环回路中任何部件的温度都不能低于其所供水的温度,因此 ATD 是系统中每个组件温度的最低标准。MSI 绘制了两个 360mm 散热器在 1 至 2 LPM 流速下的 ATD 与热负荷关系图,其中一次测试使用了六个风扇 100% PWM(脉冲宽度调制)转速,另一次使用了 60% 转速。

MSI XpertStation WS300 散热器接近温度图(风扇 PWM 转速 100%):冷却液温度高于环境温度与热负荷的关系(流量 1 至 2 LPM)。

在风扇全速运转时,散热器在整个流量范围内,在1,000W热负载下,能将冷却液温度保持在环境温度5到9摄氏度以内;在1,400W负载下(超过Superchip的功率限制),则能保持在8到12摄氏度以内。曲线几乎呈线性,冷却液流速越慢,在散热器中停留的时间越长,流出时的温度也越接近室温,因此1升/分钟的曲线位置最低;但缺点是,从第一张图表可以看出,低流量时冷板阻力较高,因此回路的最佳工作点需要在两者之间取得平衡。对于放在办公桌旁的系统来说,60% PWM曲线更为实际,因为没有人会在办公室里让六个120毫米风扇全速运转(或者说,没有人愿意这样做)。

MSI XpertStation WS300 散热器接近温度图(风扇 PWM 转速 60%):冷却液温度高于环境温度与热负荷的关系(流量 1 至 2 LPM)。

在 60% 负载下,平均温度 (ATD) 大约翻倍:1,000W 时为 10 至 16℃,1,400W 时为 15 至 23℃,这算是一个相对较小的温度升高。即使在 Superchip 全功率运行且风扇转速降低的情况下,冷却液进入冷板的温度也仅比室温高出约 23℃。加上第一张图表中 GPU 冷板温度升高的 17℃,Blackwell Ultra 封装在 1,000W 功率下的温度比环境温度高出约 40℃,完全在正常办公环境下的工作温度范围内。MSI 的最后一张图表是散热器的风侧阻抗曲线,显示了风扇需要克服的压力才能将空气吹过鳍片组,在 135 CFM 风量下水柱高度约为 1 毫米,在 185 CFM 风量下约为 2 毫米。这是一个低阻力核心,这也是风扇可以低速运转的原因。

MSI XpertStation WS300散热器空气阻抗曲线:压降(毫米水柱)与空气流量(立方英尺/分钟)的关系。
MSI XpertStation WS300 内部的液冷散热器、风扇和编织管

我们的骑行:在GB300上大约用了3个小时

设计曲线描述了循环应该执行的操作,为了了解其实际运行情况,我们记录了 WS300 在 2.8 小时的测试过程中的运行情况,该测试分为五个阶段:首先是持续 GPU 负载下的 75 分钟老化测试;然后是三种不同配置下通过 vLLM 提供的 DeepSeek v4 Flash 服务;接着是 512 个输入和 512 个输出令牌的均衡工作负载;之后是 8,192 个输入和 1,024 个输出的预填充工作负载;最后是 1,024 个输入和 8,192 个输出的解码工作负载,并逐步增加并发量;最后是空闲观察窗口。我们持续采集了 GPU、HBM、CPU 和电源遥测数据。冷却液温度、机箱空气温度和主板温度来自 BMC,我们每隔几分钟轮询一次 BMC。每个图表中的阴影区域标记了各个阶段。

MSI XpertStation WS300 Superchip 温度图表,展示了在 2.8 小时运行期间 CPU、GPU、HBM、DRAM 和 ConnectX-8 的温度,涵盖了老化测试、三个 DeepSeek v4 Flash 推理阶段以及空闲状态。

在整个老化测试过程中,Blackwell Ultra 核心温度保持在 60°C,HBM3e 显存温度略高,为 70°C,Grace 显存温度为 64°C。这些是在 GPU 功耗约为 1,000W 时的稳定温度,并且在 75 分钟内没有上升,这表明循环已达到平衡并留有余量。推理阶段的平均温度较低,因为负载更具突发性:在相同负载下,GPU 的最高温度再次达到 60°C,在长时间解码爬坡期间达到 58°C,HBM 的最高温度为 73°C。DRAM 线路上的锯齿波是 BMC 采样间隔造成的;LPDDR5X 本身的最高温度约为 75°C。在大部分测试过程中,机箱内温度最高的传感器是 ConnectX-8,温度为 76 至 77°C。GPU 和 HBM 的空闲温度稳定在 33 至 36°C,Grace 的温度约为 48°C。

MSI XpertStation WS300 系统温度图表显示了在 2.8 小时运行期间冷却液的供回水温度、机箱空气温度、BMC 底板温度和机箱 PCB 温度。

在老化测试期间,冷却液离开散热器时的温度为 37°C,从冷板返回时的温度为 47°C,整个回路温差为 10°C。机箱内部空气温度达到 46°C,BMC 底板温度达到 52°C,最高温度板传感器温度达到 56°C。所有这些温度曲线在负载运行的前 15 分钟内均达到稳定水平并保持平稳,负载停止后几分钟内温度便会回落。待机状态下,冷却液供应温度保持在 30 至 31°C。

MSI XpertStation WS300 功耗图表显示了 GPU、CPU 和 Superchip 总功耗在老化、推理和空闲阶段与 1,300W 限制的对比情况。

老化测试期间,GPU功耗稳定在995W左右,Grace程序又增加了85到90W,使得Superchip总功耗接近1,080W,这与上文冷却液温差对应的负载相符。在高并发情况下,相同负载下的GPU功耗曾短暂达到1,000W;预填充阶段以短脉冲形式运行,总功耗约为1,050W;解码阶段则最清晰地展现了推理服务器如何负载GPU,随着每个阶段并发量的翻倍,功耗从大约500W跃升至略高于1,000W。在整个运行过程中,Superchip总功耗始终保持在图表所示的1,300W上限的200W以内。值得注意的是待机功耗:GPU在未运行任何程序的情况下功耗为150到210W,Superchip总功耗为220到290W。

MSI XpertStation WS300 频率图表显示,在整个测试过程中,GPU 时钟频率稳定在 2.07GHz 左右,CPU 接近 3.5GHz,HBM 为 4,000MHz,LPDDR5X 为 3,200MHz。

从老化测试开始到结束,Blackwell Ultra 的频率始终保持在 2.07GHz 左右,整个测试过程中频率保持平稳,没有任何波动。Grace 显存频率稳定在 3.5GHz 附近,抖动正常;HBM 显存频率保持在 4,000MHz;LPDDR5X 显存频率保持在 3,200MHz。如果 GPU 受热限制,其频率会表现为非常不稳定,因为睿频算法会降低频率然后恢复;如果受功耗限制,其频率则会随负载波动;但在我们的测试中,这两种情况都没有出现。在这些负载下,系统温度既没有高到足以使 GPU 频率低于其最高频率,功耗也没有高到足以使 GPU 频率低于最高频率。

将两者联系起来

MSI 的曲线图和我们的测量结果独立得出,但两者却得出了相同的结论。首先,在 1,080W 功率下,冷却液温度升高了 10℃。液体的导热系数等于流量乘以温升,因此,温升变化量表明水基冷却液的流量约为 1.5 升/分钟,这与 MSI 的测试结果完全吻合。参考 MSI 在该流量和负载下的散热器图表:风扇全速运转时,冷却液温度应比室温高约 8℃;风扇转速为 60% 时,温度应比室温高约 14℃。由于 MSI 的实验室没有校准过的环境温度探头,我们无法精确计算温度,但 37℃ 的供水温度与实验室环境温度较高且风扇转速远低于全速运转的情况相符。

在 1.5 LPM 的流速下,GPU 散热板的实测热阻约为 0.017 C/W,在 995W 的功耗下,预计冷却液到散热板的温度会升高 17°C。我们测量了 Blackwell Ultra 芯片的温度,其工作温度为 60°C,电源温度为 37°C,两者相差 23°C。这 6°C 的温差来自散热界面和封装本身,这是散热板无法控制的路径部分,对于这种尺寸的双光​​栅 GPU 来说,这个温差很小。散热板的实际工作情况与 MSI 的基准测试数据相符,芯片和冷却液之间的温差由物理定律决定。

反过来计算预算,我们之前讨论的余量就更加明显了。NVIDIA 的数据中心 GPU 要到芯片温度达到 80 多度才会开始降频,因此 WS300 在持续满载的情况下,Blackwell Ultra 芯片的温度与热管理系统介入的温度之间大约还有 20 摄氏度的余量,而此时整个散热回路的功耗为 1,080 瓦。即使在最坏情况下,Superchip 的 1,300 瓦功耗限制下,通过 0.017 摄氏度/瓦的散热片额外增加 220 瓦的功耗,GPU 的温度也只会升高不到 4 摄氏度,而 MSI 的散热器图表显示,即使增加这 220 瓦的功耗,冷却液的温度也只会升高大约 2 摄氏度。

这对买家意味着什么

WS300 在持续推理或合成负载下不会出现降频,因为其冷却回路的容量超过了 Superchip 的功率限制,实测温度在 GPU 处留有约 20°C 的余量,而 HBM 和 CPU 的运行温度则远低于其极限温度。温度最高的组件是 ConnectX-8,这也是它被接入冷却回路的原因。冷却液温度会在 15 分钟内稳定下来,并在几分钟内恢复正常,因此连续运行任务不会导致温度累积。风扇转速是噪音和冷却液温度之间唯一的调节因素,MSI 的 60% 负载数据显示,在风扇需要加速运转之前,系统可以承受很大的风量。唯一没有缩减的是电气方面:在北美仍然需要 20A 的电路,而 252GB HBM3e 和 72 核 Arm CPU 的待机功耗在 220 到 290W 之间。不过话说回来,有了这种投资,系统就很少会闲置。

本报告由微星科技赞助。本报告中表达的所有观点和意见均基于我们对所讨论产品的客观评价。

MSI XpertStation WS300 产品页面

参与 StorageReview

电子报| YouTube | 播客iTunes / Spotify | Instagram | Twitter | TikTok | RSS订阅

布赖恩·比勒

Brian 位于俄亥俄州辛辛那提市,是 StorageReview.com 的首席分析师兼总裁。