JetCool SmartPlate 시스템은 특히 전체 액체 루프가 옵션이 아닌 경우 액체 냉각을 위한 탁월한 진입점입니다.
액체 냉각은 특히 고밀도 컴퓨팅 환경에서 기존 공기 냉각에 비해 상당한 이점을 제공합니다. 액체 냉각은 프로세서에서 열을 효율적으로 발산함으로써 에너지 소비를 줄이고 작동 온도를 낮추며 전체 시스템 성능을 향상시킬 수 있습니다. JetCool의 SmartPlate 시스템은 독립형 폐쇄 루프 액체 냉각을 위한 탁월한 진입점입니다. 특히 전체 액체 루프가 옵션이 아닌 환경에 적합합니다.
컴퓨팅 및 GPU 서버에 폐쇄 루프를 추가하는 것은 새로운 것이 아닙니다. 우리는 Dell, HPE, Lenovo와 같은 밀도가 높은 여러 서버 플랫폼에서 폐쇄 루프를 보았습니다. 이 기술은 복잡한 인프라 수정의 필요성을 없애고 초기 비용과 지속적인 유지 관리 요구 사항을 줄여준다는 점에서 훌륭합니다. 폐쇄 루프 시스템의 이점은 CDU 및 시설수를 사용하는 전체 루프만큼 강력하지는 않지만 여전히 많은 에너지 효율성 이점을 제공합니다.
JetCool은 SuperCompute와 같은 무역 박람회와 지난 100월 Dell Tech World에서 처음으로 등장한 이름입니다. CPU와 GPU를 모두 기반으로 하는 고성능 워크로드를 위한 솔루션으로 주목을 받고 있습니다. JetCool은 소켓형 및 추가 카드 폼 팩터에서 NVIDIA H200과 같은 광범위한 Intel 및 AMD CPU 및 GPU를 지원합니다. JetCool은 또한 GBXNUMX Superchip 및 차세대 CPU 아키텍처와 같은 새로운 플랫폼에 대한 엔지니어를 출시했습니다.
Instagram에서이 게시물보기
JetCool SmartPlate 시스템은 이제 포괄적인 글로벌 서비스, 지원 및 보증 범위를 제공하는 Dell 및 채널 파트너를 통해 전 세계적으로 구입할 수 있습니다. JetCool을 서버에 추가하는 것은 기본 서버 구성 가격에 추가로 대략 10% 업그레이드입니다.
시스템 작동 방식을 더 잘 이해하기 위해 JetCool은 검토를 위해 폐쇄 루프가 포함된 Dell PowerEdge R760 시스템을 우리에게 보냈습니다.
JetCool의 차이점은 무엇입니까?
JetCool의 특허 받은 미세 대류 냉각 기술은 유체 제트가 있는 핫스팟을 목표로 하여 기존 방법에 비해 뛰어난 열 전달 및 냉각 효율성을 제공합니다. 이 목표 액체 냉각은 효율성도 높여줍니다. Jetcool은 냉각 시 에너지를 최대 50% 절감하고 전체 전력을 거의 18% 절감합니다. 이 솔루션은 다른 폐쇄 루프 액체 냉각 설정과 시각적으로 유사하지만 JetCool SmartPlates는 모든 차이를 만듭니다.
Jetcool의 SmartPlate 시스템 다이어그램
SmartPlate 시스템의 유체 제트는 다이의 핫스팟 위로 냉각수를 강제하여 수동 흐름보다 더 효과적으로 열을 이동시킵니다. 이 냉각 솔루션의 효율성 덕분에 Jetcool 시스템은 여전히 우수한 성능을 유지하면서 더 높은 온도의 냉각수로 작동할 수 있습니다. 결과적으로 이러한 냉각 효율성은 냉각 시 전력 효율성으로 이어지며, 낮은 공기 흐름 요구 사항 덕분에 CPU 온도뿐만 아니라 전체 데이터 센터의 온도도 낮아집니다. 데이터 센터 온도를 낮추면 전체 시설의 지속적인 운영 비용을 줄일 수 있습니다.
대부분의 데이터 센터 제공업체는 A1-A4 표준에 따라 ASHRAE(American Society of Heating, Refrigerating, and Air-Conditioning Engineers) 지침에 따라 시설을 구축합니다. 이 표준에는 공냉식 데이터 센터의 권장 온도 범위가 64.4°F~80.6°F로 명시되어 있습니다. 고성능 구성 요소와 더 높은 수요의 컴퓨팅 작업을 통해 최신 고밀도 서버는 더 많은 양의 열을 방출합니다. ASHRAE의 새로운 H1 표준에 따르면 환경은 64.4°F ~ 71.6°F 범위로 냉각되어야 하므로 데이터 센터에 어려움이 따릅니다. 이로 인해 전체 시설의 냉각 기능을 업그레이드하거나(전력 수요 및 운영 비용 증가) 시설 전체에 액체 냉각 시스템을 설치할 수 있습니다. 이러한 선택 중 하나를 선택하면 막대한 초기 비용이 발생합니다. JetCool의 시스템은 냉각을 서버 섀시 내로 이동하고 공기 냉각 온도를 낮추고 일반적인 ASHRAE A1-A4 지침 내에서 요구 사항을 유지하면서 운영 비용 영향을 최소화해야 하는 필요성을 줄이는 것을 목표로 합니다.
JetCool의 SmartPlate 시스템이 개선하는 데 도움이 되는 또 다른 영역은 소음 공해입니다. SmartPlate 솔루션을 사용하면 섀시의 팬 속도 감소로 인해 시스템이 13dBA 더 조용하게 실행될 수 있습니다. 이러한 조용한 작동은 시설의 소음 공해를 줄이고 장비의 진동을 줄이는 데 도움이 될 수 있습니다. JetCool은 이 13dBA 감소로 인해 시설 소음이 최대 4배까지 감소한다고 말합니다. R760에 대한 연구에 따르면 공랭식 시스템의 경우 소음이 77.8dBA에서 시작되었고 JetCool의 SmartPlate 시스템의 클럭은 64.4dBA였습니다.
JetCool의 또 다른 중요한 가치는 솔루션에 특별한 것이 필요하지 않기 때문에 배포가 쉽다는 것입니다. JetCool 솔루션 배포는 데이터 센터의 DLC 시스템보다 배포 및 유지 관리 비용이 훨씬 낮습니다. 추가 외부 하드웨어, 배관, 유지 관리 또는 설치 비용이 필요하지 않습니다. JetCool의 독립형 시스템은 동일한 설치 공간에서 더 나은 효율성을 얻고 고성능 구성 요소를 사용하여 완전한 액체 냉각으로 전환하기 전에 시간을 절약하는 데 상당한 이점을 제공할 수 있습니다.
JetCool 하드웨어 고장
JetCool은 Intel 4세대 및 5세대 Xeon과 4세대 EPYC CPU가 탑재된 플랫폼을 지원합니다. 이러한 시스템의 TDP 정격은 850U 섀시에서 최대 1W, 1,200U 섀시에서 최대 2W입니다. JetCool 시스템은 55°F ~ 95°F의 유입 공기 온도 범위를 지원합니다. 앞서 언급했듯이 JetCool은 더 많은 칩과 GPU를 지원할 예정이며 NVIDIA GB200에 대한 작업은 이미 진행 중입니다.
JetCool에서 제공하는 이 특정 플랫폼은 Dell Poweredge R760 플랫폼을 기반으로 구축되었습니다. 사양은 다음과 같습니다.
| JetCool 테스트 시스템 사양 | |
|---|---|
| CPU | 2x Intel Xeon Platinum 8470Q(각각 52C 104T) |
| 메모리 | 768GB(12x64g) 5600mhz DDR5 |
아래는 Jetcool이 보내준 R760 플랫폼의 사진입니다. 구성 요소가 명확하게 보이고 JetCool의 문서화된 이미지와 성능은 우리 연구실에서 본 것과 일치합니다.
다음은 SmartPlate 솔루션의 구성 요소 레이아웃을 보여주는 JetCool에서 제공한 사진입니다. 액체 냉각에 익숙하지 않은 사람들에게는 라디에이터, 펌프, 저장소와 같은 몇 가지 추가 부품이 보일 것입니다.
아래 사진은 펌프, 펌프 컨트롤러, 냉각판을 보여줍니다. JetCool Cold Plate는 다른 솔루션에 비해 냉각 성능이 매우 얇습니다.
위에 표시된 대로 시스템 중심부에 있는 이 이상한 모양의 부품은 냉각수 저장소입니다. 이 저수지는 크지는 않지만 그 역할을 잘 수행합니다. 전체 루프에는 약 10온스의 액체가 들어 있으며 서버 보증 기간 동안 서비스를 받거나 다시 채울 필요가 없습니다.
라디에이터가 팬에 가까이 있는 경우에도 섀시를 통해 시스템 후면으로 충분한 공기 흐름이 있다는 점을 설계에서 염두에 두는 것도 중요합니다. 위 사진에서는 잘 보이지 않지만, 라디에이터 아래 DRAM으로 공기 흐름을 얻을 수 있는 틈도 있습니다.
JetCool 성능을 갖춘 Dell PowerEdge R760
일반적으로 우리는 공냉식 방열판을 사용하여 이와 같은 시스템을 테스트한 다음 액체 키트를 교체하여 성능 수치를 얻거나 액체 루프를 공냉식 서버의 동일한 CPU와 비교합니다. 이번에는 두 옵션 중 어느 것도 좋은 선택이 아니었기 때문에 jetCool에 자체 테스트에 도움을 달라고 요청했습니다.
JetCool은 내부 테스트에서 R760 플랫폼에 대한 데이터를 제공했습니다. 이 수치는 팬 속도, 주변 온도, CPU 최대 온도 및 전체 서버 전력 소비를 비교합니다. 그들은 JetCool Smartplate 시스템의 최대 용량 이하에서도 약간의 오버헤드를 제외하고 공냉식 솔루션의 최대 성능에 도달한다는 것을 보여줍니다.
공냉식 성능
| 팬 속도 %PWM | TC로 측정한 주변 온도(C) | 전역 최대 CPU 온도(C) (CPU 1) | 전역 최대 CPU 온도(C) (CPU 2) | 서버 전력(와트) |
|---|---|---|---|---|
| 100% | 24.8 | 62 | 62 | 1340.97 |
| 90% | 24.9 | 64 | 62 | 1279.8 |
| 80% | 24.3 | 65 | 64 | 1218.07 |
| 70% | 24.0 | 66 | 66 | 1171.23 |
| 60% | 23.9 | 67 | 68 | 1133.23 |
| 50% | 23.03 | 70 | 71 | 1094.87 |
JetCool SPS 성능
| 팬 속도 %PWM | TC로 측정한 주변 온도(C) | 전역 최대 CPU 온도(C) (CPU 1) | 전역 최대 CPU 온도(C) (CPU 2) | 서버 전력(와트) |
|---|---|---|---|---|
| 100% | 24.6 | 57 | 56 | 1393.47 |
| 90% | 24.15 | 58 | 57 | 1327.95 |
| 80% | 23.9 | 59 | 58 | 1265.47 |
| 70% | 23.8 | 60 | 59 | 1217.43 |
| 60% | 23.7 | 62 | 62 | 1179.33 |
| 50% | 23.5 | 65 | 65 | 1149.70 |
팬과 JetCool Smartplate 시스템 간의 전력 차이를 고려할 때 이 시스템의 CPU는 62C, 공냉식 시스템은 최대 팬 속도, JetCool SPS는 60%에 불과했습니다. JetCool의 SPS가 제공하는 냉각 효율 차이로 인해 동일한 성능에 대해 전력 소비가 214W 감소했습니다. 이러한 전력 절감량에 서버 1대를 곱하면 약 XNUMXKW의 전력이 절감됩니다.
| 공기 대 JetCool | 팬 속도 %PWM | TC로 측정한 주변 온도(C) | 전역 최대 CPU 온도(C) (CPU 1) | 전역 최대 CPU 온도(C) (CPU 2) | 서버 전력(와트) |
|---|---|---|---|---|---|
| 공기 냉각 | 100% | 24.8 | 62 | 62 | 1393.47 |
| 제트쿨 SPS | 60% | 23.7 | 62 | 62 | 1179.33 |
| 차이 | 214.14 |
우리는 JetCool 데이터에만 의존하지 않았습니다. 다음 차트는 테스트를 통해 일관된 작업 부하 하에서 JetCool 솔루션의 온도 안정성을 보여줍니다. 우리는 Pi BBP Digit Extraction에서 10조 자릿수로 Y-Cruncher를 실행했으며 약 40분이 소요되었습니다.
이 테스트에서 우리는 로드 시 코어 클럭이 2300MHz로 떨어지고 몇 번의 스파이크를 제외하고 안정적으로 유지되는 것을 확인했습니다. 여기에서 SmartPlate 시스템은 온도를 안정적으로 유지하도록 테스트되었으며 실망스럽지 않았습니다. 약 40분 동안 일관된 로드가 진행되는 동안 CPU 온도는 60°C까지 치솟았고 최고 61°C에 불과했으며 테스트 후에는 급격히 떨어졌습니다.
벤치마크 성능
열 테스트 외에도 표준 서버 제품군을 실행했습니다. Intel의 전용 수랭식 "Q" CPU에 대한 좋은 구성은 없지만, 그럼에도 불구하고 이 빌드의 성능을 과거에 검토한 다른 빌드와 비교하는 데 도움이 된다면 여기에 데이터를 제시합니다.
- Dell PowerEdge R760
- CPU: Intel Xeon Platinum 2Q 8470개(각각 52C 104T)
- 메모리: 768GB(12x64g) 5600mhz DDR5
Cinebench 2024
Maxon의 Cinebench 2024 테스트에서는 멀티 코어에서 5,215포인트, 싱글 코어에서 71포인트, MP 비율은 73.53x로 나타났습니다.
| Cinebench 2024 | JetCool R760(2x Xeon Platinum 8470Q, 768GB DDR5) |
|---|---|
| CPU 멀티 코어 | 5,215 pts |
| CPU 단일 코어 | 71 pts |
| MP 비율 | SR 73.53x |
Cinebench R23
Maxon의 Cinebench R23의 경우 멀티 코어에서 105,569포인트, 싱글 코어에서 1,252포인트, mp 비율은 84.32x였습니다.
| Cinebench R23 | JetCool R760(2x Xeon Platinum 8470Q, 768GB DDR5) |
|---|---|
| CPU 멀티 코어 | 105,569 |
| CPU 단일 코어 | 1,252 |
| MP 비율 | SR 84.32x |
블렌더 4.0 CPU
Blender 4.0 CPU 테스트에서 JetCool R760 플랫폼은 Monster의 경우 948.049점, Junkshop의 경우 630.348점, Classroom의 경우 476.018점을 기록했습니다.
| 블렌더 4.0 CPU | JetCool R760(2x Xeon Platinum 8470Q, 768GB DDR5) |
|---|---|
| 몬스터 | 948.049 |
| 정크샵 | 630.348 |
| 교실 | 476.018 |
블렌더 4.1 CPU
Blender 4.1 CPU 테스트에서 JetCool R760 플랫폼은 Monster의 경우 930.390점, Junkshop의 경우 644.007점, Classroom의 경우 473.364점을 기록했습니다.
| 블렌더 4.1 CPU | JetCool R760(2x Xeon Platinum 8470Q, 768GB DDR5) |
|---|---|
| 몬스터 | 930.390 |
| 정크샵 | 644.007 |
| 교실 | 473.364 |
긱벤치 6 CPU
Geekbench 6 CPU에서 JetCool R760 플랫폼은 싱글 코어 점수 1,814점과 멀티 코어 점수 19,076점을 기록했습니다.
| 긱벤치 6 CPU | JetCool R760(2x Xeon Platinum 8470Q, 768GB DDR5) |
|---|---|
| 단일 코어 점수 | 1,814 |
| 멀티 코어 점수 | 19,076 |
Blackmagic RAW 속도 테스트
Blackmagic Raw Speedtest의 경우 Dual Xeon Platinum 141Q에서 8470FPS를 확인했습니다.
| 블랙매직 RAW | JetCool R760(2x Xeon Platinum 8470Q, 768GB DDR5) |
|---|---|
| 8K CPU | 141의 FPS |
Blackmagic 디스크 속도 테스트
Blackmagic Disk Speedtest의 경우 Raid0에서 Dell NVME SSD XNUMX개에 대한 구성을 테스트하고 있습니다.
| Blackmagic 디스크 속도 테스트 | JetCool R760(2x Xeon Platinum 8470Q, 768GB DDR5) |
|---|---|
| 쓰다 | 11,704.1 MB / s의 |
| 읽기 | 9,762.7 MB / s의 |
Y-크런처
y-cruncher는 Pi 및 기타 수학 상수를 수조 자리까지 계산할 수 있는 멀티 스레드 및 확장 가능한 프로그램입니다. 2009년 출시 이후 오버클럭커와 하드웨어 매니아들에게 인기 있는 벤치마킹 및 스트레스 테스트 애플리케이션이 되었습니다. 여기에서 JetCool 플랫폼은 전반적으로 매우 빨랐습니다.
| Y-크런처 | JetCool R760(2x Xeon Platinum 8470Q, 768GB DDR5) |
|---|---|
| 1B | 5.270 (초) |
| 2.5B | 14.405 (초) |
| 5B | 31.490 (초) |
| 10B | 67.704 (초) |
| 25B | 191.599 (초) |
| 50B | 423.891 (초) |
7 - 우편 번호
널리 사용되는 7-Zip 유틸리티에는 성능 테스트에 사용하는 메모리 및 CPU 벤치마크가 포함되어 있습니다.
| 7 우편 번호 | JetCool R760(2x Xeon Platinum 8470Q, 768GB DDR5) |
|---|---|
| 압축 | |
| 현재 CPU 사용량 | 3,546% |
| 현재 등급 / 사용량 | 4.849 깁스 |
| 현재 평가 | 171.925 깁스 |
| 결과 CPU 사용량 | 2,551% |
| 결과 등급 / 사용량 | 4.879 깁스 |
| 결과 등급 | 173.263 깁스 |
| 압축 해제 | |
| 현재 CPU 사용량 | 3,865% |
| 현재 등급 / 사용량 | 4.060 깁스 |
| 현재 평가 | 156.886 깁스 |
| 결과 CPU 사용량 | 3,880% |
| 결과 등급 / 사용량 | 4.038 깁스 |
| 결과 등급 | 156.689 깁스 |
| 총 평점 | |
| 총 CPU 사용량 | 3,716% |
| 총 평점 / 사용량 | 4.458 깁스 |
| 총 평점 | 164.976 깁스 |
UL 프로키온 2.7 AI 컴퓨터 비전
UL Procyon AI 컴퓨터 비전의 경우 REAL-ESRGAN까지 매우 빠른 추론 시간을 보았습니다. 저희도 총점 141점을 받았습니다. 이 테스트에서는 추론을 위해 Xeon Platinum 8470Q를 사용했습니다.
다른 기계와의 비교를 위해 UL은 2.7 이전의 모든 Procyon 버전은 점수가 다르기 때문에 비교할 수 없다고 발표했습니다.
| 프로키온 추론 시간 | JetCool R760(2x Xeon Platinum 8470Q, 768GB DDR5) |
|---|---|
| 전체 점수 | 141 |
| 모바일넷 V3 | 7.53 MS |
| 레스넷50 | 9.14 MS |
| 인셉션 V4 | 29.64 MS |
| 딥랩 V3 | 26.52 MS |
| 욜로 V3 | 31.51 MS |
| 리얼에스간 | 1,123.52 MS |
결론
JetCool의 독점적인 노즐 구성, 국지적 냉각 및 낮은 압력 요구 사항을 갖춘 JetCool SmartPlates는 기존 방열판보다 우위를 보여줍니다. 또한 이 솔루션은 복잡하지 않으며 JetCool에는 냉각수를 핫스팟으로 밀어넣는 SmartPlates의 특허 제트와 같은 몇 가지 재미있는 트릭이 있습니다. 그러나 기본적으로 귀하의 조직에 JetCool이 탑재된 R760이 있는 경우 공냉식 서버에 비해 조용한 작동을 느끼지 않는 한 외부에서 이를 알 수 없습니다.
JetCool은 2023년에 Sabey 데이터 센터와 함께 사례 연구를 발표하여 Poweredge R740XD를 테스트하고 효율성 차이를 평가했습니다. “Sabey의 평가에 따르면 SmartPlate 시스템으로 냉각된 서버는 공냉식 서버에 비해 전력 소비가 13.5% 감소한 것으로 나타났습니다. 시스템의 액체 냉각수는 냉각판을 통해 전자 부품에서 직접 열을 흡수하므로 강렬한 공기 흐름이 필요하지 않아 팬 속도가 크게 줄어듭니다." Sabey는 또한 낮은 배기 온도와 공조기의 부하 감소 등 다른 많은 이점도 확인했습니다. Sabey 사례 연구의 나머지 부분을 찾을 수 있습니다. LINK.
막대한 CPU 및 GPU 전력 소비로 인해 데이터 센터가 최신 서버의 막대한 전력 요구 사항을 처리하기 위한 경쟁이 이미 진행 중이며, 액체 냉각은 이러한 요구 사항을 처리할 수 있는 유일한 솔루션입니다. 고맙게도 액체 냉각에는 다양한 옵션이 있지만 모든 사람이 시설 물 연결을 통해 전체 액체 루프를 설치하거나 침수 탱크를 처리하거나 복잡한 화학 물질을 관리할 수 있거나 원하는 것은 아닙니다. 오늘날 복잡함 없이 액체 냉각의 이점을 원하는 사람들에게 JetCool은 탁월한 대안이 될 것입니다.
StorageReview에 참여
뉴스레터 | 유튜브 | 팟캐스트 iTunes/스포티 파이 | 인스타그램 | 트위터 | 틱톡 서비스 | RSS 피드
