홈페이지 EnterpriseAI Supermicro, 액체 냉각 AI 데이터 센터에 전력을 공급하는 DCBBS 및 DLC-2 공개

Supermicro, 액체 냉각 AI 데이터 센터에 전력을 공급하는 DCBBS 및 DLC-2 공개

by 해롤드 프리츠

Supermicro는 더 빠른 구축 시간으로 확장 가능한 액체 냉각 AI 데이터 센터를 구축할 수 있는 모듈형 솔루션인 DCBBS와 DLC-2를 출시합니다.

슈퍼마이크로는 수냉식 AI 데이터센터 구축을 간소화하도록 설계된 포괄적인 접근 방식인 데이터센터 빌딩 블록 솔루션(DCBBS)을 발표했습니다. DCBBS는 모든 핵심 인프라 구성 요소, 서버, 스토리지, 네트워킹, 랙, 수냉 시스템, 소프트웨어, 서비스 및 지원을 표준화된 모듈형 아키텍처로 통합합니다. 이 이니셔티브는 훈련 및 추론 워크로드에 대한 수요가 급증하는 AI 팩토리 구축 및 운영의 복잡성 증가를 해결하는 것을 목표로 합니다.

AI 데이터 센터 구축 간소화

DCBBS는 Supermicro의 기존 기술을 확장합니다. 시스템 빌딩 블록 솔루션 데이터 센터 수준에서 사전 검증되고 확장 가능한 유닛을 제공하여 계획, 구축 및 운영을 가속화합니다. 이 솔루션은 고성능 AI 인프라 구축에 소요되는 시간과 비용을 절감하도록 설계되었습니다. Supermicro에 따르면, DCBBS는 평면도, 랙 높이, 부품 목록 및 모든 필수 구성 요소가 포함된 패키지를 통해 고객이 설계에서 구축까지 단 3개월 만에 완료할 수 있도록 지원합니다.

슈퍼마이크로의 사장 겸 CEO인 찰스 리앙은 DCBBS가 데이터 센터 레이아웃, 네트워크 토폴로지, 전력 및 배터리 백업을 아우르는 토탈 솔루션을 제공하여 고객에게 출시 기간 단축 및 온라인 전환 기간 단축의 이점을 제공할 것이라고 밝혔습니다. 그 결과, 간소화된 프로세스를 통해 비용을 절감하고 전반적인 품질을 향상시킬 수 있습니다.

모듈식, 확장 가능 및 사용자 정의 가능

DCBBS의 핵심은 시스템, 랙, 데이터 센터의 세 가지 계층 구조로 구성된 모듈식 빌딩 블록 접근 방식입니다. 이 아키텍처를 통해 고객은 시스템 수준에서 개별 CPU, GPU, 메모리 및 스토리지를 선택하는 것부터 랙 구성(예: 42U, 48U 또는 52U)을 선택하고 열 관리 및 케이블 연결을 최적화하는 것까지, 특정 요구 사항에 맞춰 인프라를 맞춤 설정할 수 있습니다. Supermicro는 초기 컨설팅 후 고객의 전력 예산, 성능 목표 및 기타 운영 요구 사항에 맞춰 프로젝트 제안서를 제공합니다.

DLC-2가 탑재된 Supermicro DCBBS

256노드 AI Factory DCBBS 확장 가능 유닛은 대규모 AI 학습 및 추론을 위한 턴키 솔루션을 제공하는 핵심 제품입니다. 각 유닛에는 최대 256개의 수냉식 4U Supermicro NVIDIA HGX 시스템 노드가 포함되어 있으며, 각 노드에는 2,048개의 NVIDIA Blackwell GPU가 장착되어 유닛당 총 800개의 GPU를 지원합니다. 이 노드들은 고속 NVIDIA Quantum-X InfiniBand 또는 Spectrum X 이더넷 네트워킹과 상호 연결되어 최대 5GB/s의 대역폭을 지원합니다. 컴퓨팅 패브릭은 PCIe GenXNUMX NVMe를 사용하는 확장 가능한 계층형 스토리지, TCO(총소유비용) 최적화된 Data Lake 노드, 그리고 지속적인 운영을 위한 복원력 있는 관리 시스템으로 보완됩니다.

차세대 데이터 센터를 위한 액체 냉각 기술 발전

Super Micro Computer는 또한 자사의 제품에 대한 중요한 개선 사항을 발표했습니다. 직접 액체 냉각(DLC) 솔루션고밀도 AI 최적화 데이터 센터의 변화하는 요구를 충족하는 새로운 기술을 소개합니다. 업계가 최신 워크로드의 전력 및 열 수요를 충족하기 위해 수냉 방식으로 빠르게 전환함에 따라, Supermicro의 DLC-2 솔루션은 효율성, 구축 속도 및 운영 지속 가능성 측면에서 측정 가능한 개선을 제공하는 것을 목표로 합니다.

 

데이터센터에서 수냉식 냉각 시스템 도입이 가속화되고 있는데, 이는 컴퓨팅 리소스 밀도 증가와 AI 및 머신러닝 워크로드 증가에 따른 것입니다. 업계 전문가들은 수냉식 데이터센터가 가까운 미래에 전체 신규 설치의 최대 30%를 차지할 것으로 예상합니다. 기존의 공랭식 냉각 시스템은 실질적인 한계에 도달하고 있으며, 특히 기업들이 상당한 열을 발생시키는 고성능 GPU와 CPU를 탑재한 서버를 구축함에 따라 이러한 문제가 더욱 심각해지고 있습니다.

Supermicro의 최신 DLC-2 솔루션은 이러한 과제를 정면으로 해결하도록 설계되었으며, 더욱 빠른 구축, 운영 비용 절감, 그리고 향상된 지속가능성 지표를 지원하는 포괄적인 엔드 투 엔드 수냉 아키텍처를 제공합니다. Supermicro의 DLC-2 기술은 GPU가 1,000W TDP를 초과할 수 있는 최신 AI 워크로드의 열 문제를 해결하도록 설계되었습니다.

DLC-2는 냉각판과 시설 규모 액체 냉각 인프라를 사용하여 CPU, GPU, 메모리, PCIe 스위치, 전압 조정기 등 주요 구성 요소에서 직접 열을 포집합니다. 이 시스템은 랙 내부 또는 행 내부 냉각수 분배 장치(CDU), 수직 냉각수 분배 매니폴드, 그리고 시설 측 냉각탑 지원을 포함합니다. 이러한 접근 방식을 통해 최대 40%의 전력 절감, 데이터 센터 설치 공간 60% 감소, 그리고 물 소비량 최대 40% 절감이 가능해져 총소유비용(TCO)을 약 20% 절감할 수 있습니다.

Supermicro의 DLC-2는 신속한 구축 및 고밀도 환경에 적합하도록 설계되었습니다. 최대 45°C의 유입 온도에서 온수 냉각을 지원하여 냉각기 필요성을 줄이고 운영 비용을 절감합니다. 이 솔루션은 컴퓨팅, 스토리지 및 네트워크 리소스 전반에 걸쳐 중앙 집중식 관리, 분석 및 오케스트레이션을 제공하는 Supermicro의 SuperCloud Composer® 소프트웨어와 완벽하게 통합됩니다.

DLC-2 운영상의 이점

  • 최대 40% 전력 절감: 기존 공랭식 시스템에 비해 데이터 센터의 전체 전력 소비량을 최대 40%까지 절감할 수 있습니다. 콜드플레이트 기술은 CPU, GPU, 메모리, PCIe 스위치, 전압 레귤레이터 등 주요 부품에서 열을 직접 효율적으로 전달하여 이러한 효과를 달성합니다. 데이터 센터는 고속 팬과 공랭식 냉각 인프라에 대한 의존도를 최소화함으로써 에너지 비용과 탄소 발자국을 크게 줄일 수 있습니다.
  • 배포 시간 단축 및 온라인 시간 단축: 신속한 구축을 위해 설계되었습니다. 이 솔루션은 냉각판, 냉각수 분배 장치(CDU), 수직 냉각수 분배 매니폴드(CDM)를 포함한 완벽하게 통합된 엔드 투 엔드 액체 냉각 스택을 제공합니다.
  • 따뜻한 물 냉각으로 물 소비량 감소: DLC-2 아키텍처는 최대 45°C의 입구 온도에서 온수 냉각을 지원합니다. 이 기능은 비용과 자원 소모가 큰 기존 냉각 시스템의 필요성을 줄여줍니다.
  • 조용한 데이터 센터 운영: 포괄적인 냉각판 적용 범위와 낮은 팬 요구 사항을 갖춘 DLC-2 솔루션을 사용하면 데이터 센터 소음 수준을 약 50dB까지 낮출 수 있습니다.
  • 총소유비용 절감: Supermicro는 DLC-2 솔루션이 에너지 및 수자원 절약 외에도 총소유비용(TCO)을 최대 20%까지 절감할 수 있다고 추정합니다. 냉각 인프라 감소, 전력 및 수자원 사용량 감소, 그리고 서버 밀도 증가는 모두 데이터센터 운영의 비용 효율성을 높이는 데 기여합니다.

DLC-2 기술 혁신

  • 포괄적인 냉각판 적용 범위: DLC-2 솔루션은 CPU, GPU, 메모리 모듈, PCIe 스위치 및 전압 레귤레이터를 덮는 냉각판을 특징으로 합니다. 이러한 접근 방식은 거의 모든 발열 구성 요소의 효율적인 냉각을 보장하여 보조 공기 냉각 및 후면 도어 열 교환기의 필요성을 줄여줍니다.
  • 고밀도 AI 시스템 지원: 새로운 아키텍처의 핵심은 6개의 NVIDIA Blackwell GPU와 4개의 Intel Xeon XNUMX CPU를 컴팩트한 XNUMXU 랙 높이에 탑재한 GPU 최적화 Supermicro 서버입니다. 이 시스템은 증가된 냉각수 온도를 처리하고, 와트당 성능을 극대화하며, 최신 AI 워크로드를 지원하도록 특별히 설계되었습니다.
  • 고효율 냉각수 분배: 랙 내부 냉각수 분배 장치(CDU)는 랙당 최대 250kW의 열을 제거할 수 있습니다. 수직 냉각수 분배 매니폴드(CDM)는 랙 전체에 냉각수를 효율적으로 순환시켜 설치된 서버 수에 맞춰 배치하고 단위 면적당 더 높은 컴퓨팅 밀도를 구현합니다. 서버 랙당 최대 98%의 수냉식 열 포집 효율은 효율성을 더욱 향상시킵니다.
  • 통합 관리 및 오케스트레이션: 전체 DLC-2 솔루션 스택은 Supermicro의 SuperCloud Composer® 소프트웨어와 완벽하게 통합되어 데이터 센터 수준의 관리와 인프라 오케스트레이션을 제공합니다.

Supermicro의 DLC-2 솔루션은 표준 건식 냉각탑과 급수탑의 기능을 결합한 하이브리드 냉각탑을 채택했습니다. 이 설계는 특히 계절적 기온 변화가 심한 지역에서 유용하며, 데이터 센터가 연중 자원 사용을 최적화하고 운영 비용을 더욱 절감할 수 있도록 지원합니다.

서비스 및 소프트웨어 통합

DCBBS는 초기 컨설팅 및 데이터 센터 설계부터 솔루션 검증, 현장 구축 및 지속적인 지원에 이르기까지 포괄적인 서비스를 제공합니다. Supermicro는 미션 크리티컬 환경에 4시간 현장 대응 옵션을 제공하여 높은 가용성과 신속한 문제 해결을 보장합니다.

소프트웨어 측면에서 Supermicro의 전문성은 AI 학습, 추론, 클러스터 관리 및 워크로드 오케스트레이션을 위한 애플리케이션 통합으로 확장됩니다. Supermicro는 NVIDIA AI Enterprise 소프트웨어 플랫폼 구축을 지원하고 고객 스택에 맞춰 소프트웨어 프로비저닝 및 검증 서비스를 제공합니다.

AI 훈련, 추론 및 그 이상

DCBBS의 주요 사용 사례는 기반 모델 개발을 위해 수천 개의 GPU가 필요한 대규모 AI 학습 클러스터 구축입니다. 이 솔루션은 여러 모델과 애플리케이션에 걸쳐 실시간 인텔리전스를 제공하기 위해 높은 컴퓨팅 용량이 점점 더 요구되는 AI 추론 워크로드에도 적합합니다.

DCBBS는 AI 외에도 과학 연구, 재무 모델링, 고급 분석 등 고밀도, 고성능 컴퓨팅이 필요한 모든 데이터 센터 환경에 적용됩니다. 이 솔루션은 모듈식이고 사용자 정의가 가능하여 기업은 워크로드 변화에 따라 인프라를 조정할 수 있습니다.

AI와 고성능 컴퓨팅의 급속한 성장은 수냉식 데이터 센터로의 전환을 촉진하고 있습니다. 최근 몇 년 동안 수냉식 데이터 센터는 1% 미만이었지만, 업계 예측에 따르면 이 수치는 내년에는 30%에 도달할 것으로 예상됩니다. Supermicro의 DCBBS 및 DLC-2 제품은 효율적이고 확장 가능하며 지속 가능한 데이터 센터 운영을 위한 실용적이고 공급업체와 통합된 경로를 제공하여 이러한 전환 과정에서 Supermicro에게 긍정적인 영향을 미칩니다.

StorageReview에 참여

뉴스레터 | 유튜브 | 팟캐스트 iTunes/스포티 파이 | 인스타그램 | 트위터 | 틱톡 서비스 | RSS 피드