HPE는 Vultr로부터 AMD Helios AI Rack by HPE의 첫 번째 주문을 수주했습니다. 이번 계약은 1.2억 달러 규모로, Vultr의 미국 내 클라우드 데이터 센터 전반에 걸쳐 72개의 GPU가 탑재된 Helios AI Rack을 구축하는 데 사용될 예정입니다. HPE는 네트워킹 투자자의 날 행사를 개최한 9월 30일에 이 주문을 발표했으며, 이번 계약은 HPE, AMD, Broadcom이 작년 12월에 합의한 랙 규모 설계의 첫 번째 고객 성공 사례입니다 . 이 설계에서 HPE는 각 Helios 랙 내부에 확장 가능한 이더넷 스위칭 및 소프트웨어를 제공합니다.
HPE가 세계 최대 규모의 비상장 클라우드 인프라 기업이라고 소개하는 Vultr는 지난 7월 2027년부터 2028년까지 구축될 헬리오스(Helios) 용량에 대한 사전 주문을 받고 있다고 발표했습니다. 이번 HPE와의 계약으로 해당 프로그램에 HPE에서 제작한 랙이 추가될 예정입니다. Vultr의 CEO인 JJ Kardwell은 “고성능 AI 인프라에 대한 수요는 가용 용량을 지속적으로 앞지르고 있으며, AMD 및 HPE와의 협력을 통해 고객에게 헬리오스 랙 규모 컴퓨팅 및 확장형 네트워킹을 더 빠르게 제공할 수 있게 되었습니다.”라고 말했습니다. “우리는 함께 고객이 가장 크고 까다로운 AI 학습 및 추론 워크로드를 실행하는 데 필요한 메모리 용량, 상호 연결 성능 및 에너지 효율성을 제공하고 있습니다.”
헬리오스 랙에는 무엇이 들어있나요?
각 랙에는 6세대 AMD EPYC "Venice" CPU, AMD Pensando Vulcano AI NIC, 그리고 ROCm 소프트웨어 스택과 함께 72개의 AMD Instinct MI455X GPU가 탑재되어 있습니다. MI455X는 AMD의 첫 번째 CDNA 5 가속기 로, GPU당 432GB의 HBM4 메모리를 갖추고 있으며, 전체 랙은 최대 31TB의 HBM4 메모리, 1.7PB/s의 메모리 대역폭, 그리고 AMD 사양에 따르면 2.9 엑사플롭스의 FP4 처리 성능을 제공합니다. GPU는 AMD가 표준 이더넷에서 실행하는 개방형 스케일업 패브릭인 UALoE(UALink over Ethernet)를 통해 메모리를 공유하며, 랙 내부에서 260TB/s의 스케일업 대역폭, 랙 외부에서 43TB/s의 스케일아웃 대역폭을 제공합니다.
HPE는 랙에서 주로 네트워크를 담당합니다. 모든 Helios 랙에는 6개의 HPE Juniper Networking QFX5252 스케일업 이더넷 스위치 트레이가 설치되어 72개의 GPU를 모두 연결합니다. HPE는 해당 스위칭 장비와 소프트웨어가 Helios를 위해 특별히 설계되었다고 밝혔습니다. 이번 계약은 합병 이전부터 이어져 온 협력 관계를 더욱 강화하는 것이기도 합니다. HPE는 Vultr가 Juniper Networks와 약 3년간 협력해 왔으며, Juniper가 HPE의 일부가 된 지금도 이러한 협력 관계는 지속될 것이라고 설명했습니다.
액체 냉각, 서비스 및 HPE의 네트워킹 전략
이 랙은 HPE가 엑사스케일급 기술로 내세우는 HPE의 직접 액체 냉각 방식을 사용하며, HPE 서비스는 대규모 AI 클러스터의 구축 및 액체 냉각 통합을 담당합니다. HPE는 이 조합을 개방형 표준을 기반으로 구축된 AMD와의 통합 스택인 AI 데이터 센터 솔루션 포트폴리오의 일부로 판매합니다. HPE의 사장 겸 CEO인 안토니오 네리는 "HPE의 AMD Helios는 랙 규모의 컴퓨팅, 확장 가능한 네트워킹, 그리고 직접 액체 냉각을 통해 완벽한 AI 아키텍처를 설계할 수 있는 HPE의 독보적인 역량을 보여줍니다. 이 모든 것은 HPE의 글로벌 서비스를 통해 제공됩니다."라고 말했습니다.
Vultr는 이미 AMD Instinct 용량을 제공하고 있으며 올해 초 AMD 및 NetApp과 함께 하이브리드 클라우드 참조 설계를 구축했고 , Microsoft는 7월에 Azure에서 Helios를 대규모로 확장 할 것이라고 밝혔습니다.
아마존