MSI XpertStation WS300 리뷰 후 가장 많이 받은 질문은 한 가지 핵심 주제로 귀결됩니다. GB300 Grace Blackwell Ultra Superchip은 1,300W의 전력을 소모하는 칩으로, 일반적으로 수랭식 랙에서 사용되는데, 타워형 케이스에 장착했을 때 발열은 어떻게 될까요? 이러한 우려는 당연합니다. GB300 시스템이 발열 한계에 도달하면 성능이 저하되고, 지속적인 추론 작업 중에 성능 저하가 발생한다면 구매 목적을 제대로 달성할 수 없기 때문입니다. 저희 리뷰에서 WS300은 테스트 내내 시원하고 안정적인 상태를 유지했다고 말씀드렸습니다. 그 이유는 MSI의 자체 냉각 설계 데이터와 시스템 테스트 중 기록한 발열, 전력 소비, 클럭 속도 변화에 있습니다.
루프가 해야 할 일
DGX Station의 열 관리 용량은 NVIDIA에서 설정합니다. GB300 모듈은 SuperChip 전력 제한이 1,300W이며, 전체 시스템은 1,600W 파워 서플라이 하나로 구동되는데, 이 파워 서플라이는 스토리지, 펌프, 팬, 그리고 옵션으로 제공되는 RTX PRO 카드까지 모두 공급해야 합니다. 1,300W의 전력은 거의 대부분 네 곳에서 열로 방출됩니다. 바로 Blackwell Ultra GPU와 252GB의 HBM3e 메모리, 72코어 Grace CPU, 4개의 SOCAMM LPDDR5X 모듈로 구성된 496GB 메모리, 그리고 두 개의 400GbE 광 포트를 갖춘 ConnectX-8 SuperNIC입니다. MSI는 이 네 곳 모두에 콜드 플레이트를 장착했고, 360mm 라디에이터 두 개와 120mm 팬 여섯 개를 통해 냉각 시스템을 구성했습니다. 별도의 120mm 섀시 팬은 케이스 내부의 SSD와 기타 공랭식 부품들을 냉각합니다. MSI는 CPU와 GPU를 합쳐 1,400W의 전력을 소모하도록 설계했는데, 이는 NVIDIA가 슈퍼칩에 허용하는 전력 소모량보다 약 100W 높은 수치입니다.
100W의 여유 전력은 설계 과정에서 매우 중요한 요소입니다. 정격 부하만 고려한 수랭 시스템은 따뜻한 사무실 환경, 먼지가 쌓인 라디에이터, 또는 최대 속도보다 느리게 작동하는 팬과 같은 상황을 감당할 여유가 없습니다. 전력 제한보다 높은 여유 전력을 확보한 수랭 시스템은 실리콘 칩이 열 용량 한계에 도달하기 전에 전력 용량 한계에 도달하도록 합니다.
MSI의 콜드 플레이트 데이터
MSI는 루프 특성 분석 데이터를 저희와 공유했습니다. 이 회사는 해당 방법론을 CIT(Component Integrity Test, 구성 요소 무결성 테스트)라고 부르며, 곡선들을 경험적 데이터라고 설명합니다. 즉, 반복적인 압력 및 열 사이클을 거치면서 벤치에서 측정한 결과라는 뜻입니다. 첫 번째 차트는 열 엔지니어가 가장 중요하게 생각하는 그래프입니다. 이 차트는 GPU와 CPU 냉각판의 열 저항(섭씨/와트)을 냉각수 유량에 따라 나타내고, 각 냉각판이 펌프에 가하는 압력 강하도 함께 보여줍니다.
GPU 플레이트의 열 저항은 분당 0.3리터의 미미한 유량에서 약 0.031°C/W로 시작하여 유량이 증가함에 따라 급격히 감소하여 1.5 LPM에서 약 0.017°C/W, 3 LPM에서 약 0.012°C/W에 도달합니다. 훨씬 낮은 전력을 소비하는 CPU 플레이트는 1.5 LPM에서 약 0.028°C/W로 더 높은 열 저항을 보입니다. 열 저항은 와트를 온도로 변환하는 계수입니다. 1.5 LPM에서 GPU 플레이트를 통과하는 100W의 전력마다 냉각수와 플레이트 사이의 온도 상승은 약 1.7°C입니다. 1,000W의 전력을 통과시키면 플레이트의 온도는 수면보다 약 17°C 높아집니다. 이와 상충되는 것은 압력 강하인데, 이는 유량의 제곱에 비례하여 증가합니다. 1.5 LPM에서 GPU 플레이트는 펌프에 약 1.1 PSI의 압력을, CPU 플레이트는 약 1.9 PSI의 압력을 발생시킵니다. 곡선은 2 LPM을 넘어서면 평평해지는데, 이것이 바로 루프가 1.5~2 LPM 범위에서 작동하도록 설계된 이유입니다. 유량이 높을수록 열 효율은 떨어지고 펌프 비용은 크게 증가합니다.
라디에이터, 팬, 그리고 소음과의 절충점
두 번째 차트 세트는 냉각 루프의 다른 끝 부분을 다룹니다. ATD는 주변 온도 차이(Ambient Temperature Difference)의 약자로, 라디에이터에서 나온 냉각수의 온도가 실내 공기 온도보다 얼마나 상승했는지를 나타냅니다. 시스템 내 모든 구성 요소의 온도는 이 ATD를 기준으로 최저값을 갖게 됩니다. 루프 내의 어떤 부품도 냉각수보다 차가울 수 없기 때문입니다. MSI는 360mm 라디에이터 두 개를 사용하여 유량 1~2 LPM에서 열 부하에 따른 ATD 변화를 그래프로 나타냈습니다. 두 그래프는 각각 6개의 팬을 100% PWM(펄스 폭 변조)으로 작동시켰을 때와 60%로 작동시켰을 때를 비교한 것입니다.
팬을 최대 속도로 작동시키면 라디에이터는 유량 범위 전체에서 1,000W의 열 부하 시 냉각수 온도를 주변 온도보다 5~9°C 이내로 유지하고, Superchip의 전력 제한을 초과하는 1,400W에서는 8~12°C 이내로 유지합니다. 그래프는 거의 선형이며, 유량이 낮은 냉각수는 라디에이터에 더 오래 머물면서 실온에 더 가까운 온도로 배출됩니다. 이것이 1 LPM 선이 가장 낮게 위치하는 이유입니다. 첫 번째 그래프에서 볼 수 있듯이 유량이 낮을수록 냉각판 저항이 높아지므로, 루프의 작동 지점은 이 두 가지 사이의 균형점입니다. 60% PWM 그래프는 책상 옆에 놓인 시스템에 더 현실적입니다. 사무실에서 120mm 팬 6개를 최대 속도로 작동시키는 사람은 아무도 없기 때문입니다.
60% 부하에서 ATD는 대략 두 배로 증가합니다. 1,000W에서는 10~16°C, 1,400W에서는 15~23°C 상승하는데, 이는 비교적 적은 손실입니다. 슈퍼칩의 최대 전력을 사용하고 팬 속도를 낮추더라도 냉각수는 실내 온도보다 최대 23°C 정도만 높은 온도로 냉각판에 도달합니다. 첫 번째 차트에서 GPU 냉각판 온도가 17°C 상승하는 것을 고려하면, 블랙웰 울트라 패키지는 1,000W에서 주변 온도보다 약 40°C 높은 온도로 작동하며, 이는 일반적인 사무실 환경에서 허용 가능한 작동 범위 내에 있습니다. 마지막 MSI 차트는 라디에이터의 공기 측 임피던스 곡선으로, 팬이 핀 스택을 통해 공기를 밀어내기 위해 극복해야 하는 압력을 보여줍니다. 135 CFM에서는 약 1mm, 185 CFM에서는 약 2mm의 수압에 도달합니다. 이는 저항이 낮은 코어 구조 덕분에 팬 속도를 낮출 수 있다는 것을 의미합니다.
저희의 라이딩: GB300에서 약 3시간
설계 곡선은 루프가 어떻게 동작해야 하는지를 보여주지만, 실제 동작을 확인하기 위해 WS300을 2.8시간 동안 5단계로 구성된 세션에서 로깅했습니다. 첫 번째 단계는 지속적인 GPU 부하 상태에서 75분간의 번인 테스트였고, 두 번째 단계는 vLLM을 통해 제공되는 DeepSeek v4 Flash를 세 가지 프로파일로 처리한 것입니다. 첫 번째는 입력 토큰 512개, 출력 토큰 512개를 사용하는 동일한 워크로드였고, 세 번째는 프리필 작업이 많은 8,192개의 입력과 1,024개의 출력 워크로드였으며, 세 번째는 디코딩 작업이 많은 1,024개의 입력과 8,192개의 출력 워크로드를 동시성 증가 순으로 적용한 후, 마지막으로 유휴 관찰 기간을 두었습니다. GPU, HBM, CPU 및 전력 관련 데이터는 지속적으로 샘플링했습니다. 냉각수, 섀시 공기 및 보드 온도는 BMC에서 몇 분 간격으로 폴링하여 수집했습니다. 각 차트의 음영 영역은 각 단계를 나타냅니다.
전체 번인 테스트 동안 Blackwell Ultra 다이는 60°C로 유지되었고, HBM3e는 약 70°C로 이보다 약 10°C 높았으며, Grace는 64°C를 기록했습니다. 이는 약 1,000W의 GPU 전력 부하에서 측정된 정상 상태 온도이며, 75분 동안 상승하지 않았습니다. 이는 테스트 루프가 여유 공간을 확보한 상태에서 평형 상태에 도달했음을 보여주는 특징입니다. 추론 단계에서는 부하가 순간적으로 증가하기 때문에 평균 온도가 더 낮습니다. 동일한 작업 부하 테스트에서 GPU는 최고 60°C를 기록했고, 긴 디코딩 램프 단계에서는 58°C를 기록했으며, HBM은 최고 73°C를 기록했습니다. DRAM 온도 그래프의 톱니 모양은 BMC의 샘플링 간격으로 인한 것이며, LPDDR5X 자체는 최고 약 75°C를 기록했습니다. 테스트 기간 동안 가장 온도가 높았던 센서는 ConnectX-8로 76~77°C였습니다. 유휴 상태에서 GPU와 HBM의 온도는 33~36°C, Grace는 약 48°C를 유지했습니다.
번인 과정 동안 냉각수는 라디에이터에서 37°C로 나와 콜드 플레이트에서 47°C로 돌아와 루프 전체에서 10°C 상승했습니다. 케이스 내부 섀시 공기는 46°C, BMC 베이스보드는 52°C, 가장 뜨거운 보드 센서는 56°C에 도달했습니다. 이러한 모든 온도는 부하가 걸린 후 처음 15분 이내에 안정화되어 유지되다가 부하가 멈추면 몇 분 안에 다시 떨어집니다. 공회전 시 냉각수 공급 온도는 30~31°C를 유지했습니다.
번인 테스트에서 GPU 전력은 약 995W를 유지했고, Grace 소프트웨어가 85~90W를 추가하여 Superchip 전체 전력은 약 1,080W에 달했습니다. 이는 위의 냉각수 변화량에 해당하는 부하입니다. 동일한 작업 부하 테스트에서 동시 접속자 수가 많을 때는 GPU 전력이 잠시 1,000W 수준에 도달했습니다. 사전 처리량이 많은 단계에서는 짧은 시간 동안 총 1,050W 정도의 전력을 소비했고, 디코딩 작업량이 많은 단계에서는 추론 서버가 GPU에 부하를 주는 방식을 가장 명확하게 보여줍니다. 각 단계에서 동시 접속자 수가 두 배로 증가함에 따라 전력 소비량은 약 500W에서 1,000W를 약간 넘는 수준으로 증가했습니다. 테스트 기간 동안 Superchip 전체 전력 소비량은 차트에 표시된 1,300W 제한치에서 200W 이내로 근접한 적이 없었습니다. 전력 소비량을 계획하는 경우 유휴 상태 전력 소비량도 주목할 만합니다. GPU는 아무 작업도 실행하지 않을 때 150~210W를 소비하며, Superchip 전체 유휴 전력 소비량은 220~290W입니다.
Blackwell Ultra는 번인 테스트 시작부터 종료까지 약 2.07GHz의 클럭 속도를 유지하며, 모든 단계에서 클럭 저하 없이 안정적인 모습을 보였습니다. Grace는 정상적인 지터로 약 3.5GHz를 유지했고, HBM은 4,000MHz, LPDDR5X는 3,200MHz를 유지했습니다. 열 제한이 있는 GPU는 부스트 알고리즘이 클럭 속도를 낮췄다가 회복하는 과정에서 매우 불안정한 모습을 보이고, 전력 제한이 있는 GPU는 부하에 따라 클럭 속도가 변동하는 모습을 보입니다. 하지만 저희 테스트에서는 이러한 현상이 나타나지 않았습니다. 이러한 작업 부하 조건에서 시스템은 최고 클럭 속도를 유지할 만큼 발열이 심하거나 전력 소모가 제한적이지 않았습니다.
두 가지를 연결하기
MSI의 곡선과 저희 측정값은 독립적으로 생성되었으며, 동일한 결론에 도달합니다. 1,080W에서 냉각수 온도가 10°C 상승하는 것부터 시작해 보겠습니다. 액체가 전달하는 열은 유량에 온도 상승을 곱한 값이므로, 이 온도 차이는 수성 냉각수의 유량이 분당 약 1.5리터임을 의미하며, 이는 MSI가 측정한 범위와 정확히 일치합니다. 해당 유량과 부하 조건에서 MSI의 라디에이터 차트를 참조하십시오. 팬 속도가 100%일 때 냉각수 온도는 실내 온도보다 약 8°C 높아야 하고, 60%일 때는 약 14°C 높아야 합니다. MSI 연구실에는 보정된 주변 온도 센서가 없었기 때문에 정확한 수치를 확인할 수는 없지만, 37°C의 공급 온도는 따뜻한 실험실 환경과 팬이 최대 속도보다 훨씬 낮은 속도로 작동하는 상황과 일치합니다.
1.5 LPM 유량에서 GPU 플레이트의 측정 저항은 약 0.017 C/W이며, 995W 전력에서 냉각수에서 플레이트로 전달되는 온도는 약 17°C 상승할 것으로 예상됩니다. 우리는 Blackwell Ultra 다이를 60°C, 공급 온도를 37°C로 측정하여 23°C의 차이를 확인했습니다. 두 온도 차이 6°C는 열 인터페이스와 패키지 자체에서 발생하는 온도 차이로, 콜드 플레이트가 제어할 수 없는 부분입니다. 하지만 이 정도 크기의 듀얼 레티클 GPU에서는 매우 작은 차이입니다. 플레이트는 MSI의 벤치마크 데이터에서 제시된 대로 작동하고 있으며, 다이와 냉각수 사이의 온도 차이는 물리적인 법칙에 따른 것입니다.
예산을 다른 방식으로 활용하면 앞서 논의했던 여유 공간이 더욱 분명해집니다. NVIDIA의 데이터 센터 GPU는 다이 온도가 80도에 도달할 때까지 클럭 속도를 낮추지 않으므로, WS300은 최대 부하 상태에서 Blackwell Ultra 다이와 열 관리 작동 시점 사이에 약 20°C의 온도 차이를 보였습니다. 이는 냉각 루프가 1,080W를 소모하는 상황에서도 마찬가지였습니다. 최악의 경우인 1,300W Superchip 제한에서도 0.017°C/W 플레이트를 통해 220W가 추가되더라도 GPU 온도는 4°C 미만으로 상승하며, MSI의 라디에이터 차트를 보면 추가 부하에도 냉각수 온도는 약 2°C만 더 상승하는 것을 알 수 있습니다.
구매자에게 이것이 의미하는 바는 무엇일까요?
WS300은 냉각 루프 용량이 Superchip의 전력 제한보다 높게 설계되었기 때문에 지속적인 추론이나 합성 부하에서도 성능 저하가 발생하지 않습니다. 측정된 온도는 GPU에서 약 20°C의 여유를 보여주며, HBM과 CPU는 제한 온도보다 훨씬 낮은 온도로 작동합니다. 가장 온도가 높은 부품은 ConnectX-8인데, 이것이 바로 냉각 루프에 포함된 이유입니다. 냉각수 온도는 15분 이내에 안정화되고 몇 분 안에 정상으로 돌아오므로, 연속적인 작업으로 인해 열이 누적되지 않습니다. 팬 속도는 소음과 냉각수 온도 사이의 균형을 조절하는 유일한 요소이며, MSI의 60% 데이터에 따르면 팬 속도를 높이기 전까지 상당한 공기 흐름을 유지할 수 있습니다. 하지만 전력 소비는 줄어들지 않았습니다. 북미 지역에서는 여전히 20A 회로가 필요하며, 252GB의 HBM3e 메모리와 72코어 Arm CPU를 항상 작동 가능한 상태로 유지하기 위해 유휴 상태에서 220~290W의 전력을 소모합니다. 하지만 이런 종류의 투자라면 시스템을 거의 유휴 상태로 두어서는 안 됩니다.
본 보고서는 MSI의 후원을 받아 작성되었습니다. 본 보고서에 제시된 모든 견해와 의견은 검토 대상 제품에 대한 당사의 객관적인 관점을 바탕으로 합니다.
아마존