Supermicro는 생성 AI 및 LLM 교육 분야에서 상당한 발전을 제공할 NVIDIA의 최신 HGX H200 GPU(H200 Tensor Core GPU 탑재)를 통합한 새로운 서버 제품을 발표했습니다.
이 회사는 8U 및 4U 범용 GPU 시스템을 모두 포함하는 AI 플랫폼 출시를 준비하고 있으며, 200-GPU 및 8-GPU 구성으로 HGX H4을 지원할 수 있는 완벽한 기능을 갖추고 있습니다. 이 시스템은 이전 세대에 비해 용량은 거의 두 배, 대역폭은 3배 더 높은 HBM1.4e 기술을 도입하여 향상된 메모리 대역폭을 자랑합니다. 하드웨어 기능의 이러한 도약은 AI 연구 및 개발에서 더욱 복잡한 계산 작업에 대한 수요 증가를 충족할 것으로 예상됩니다.
또한 Supermicro는 회사의 최신 냉각 기술을 통합한 수냉식 100U 시스템에 NVIDIA HGX H8 4-GPU 시스템을 탑재한 고밀도 서버를 발표했습니다. 업계에서 가장 컴팩트한 고성능 GPU 서버라고 주장하는 Supermicro는 이 시스템이 현재까지 단일 랙 장치에서 가장 높은 밀도의 AI 훈련 용량을 허용하고 비용과 에너지 효율성을 보장하는 데 도움이 될 것임을 나타냅니다.
NVIDIA와의 파트너십을 통해 Supermicro는 AI 시스템 설계의 선두에 서서 AI 교육 및 HPC 워크로드에 최적화된 솔루션을 제공할 수 있었습니다. 신속한 혁신에 대한 회사의 의지는 기술 발전을 빠르게 시장에 배포할 수 있는 시스템 아키텍처에서 분명하게 드러납니다. 새로운 AI 시스템은 NVLink 및 NVSwitch와 같은 NVIDIA의 상호 연결 기술을 사용하여 900GB/s의 초고속 데이터 전송을 지원하고 노드당 최대 1.1TB의 HBM3e 메모리를 제공하여 AI 알고리즘의 병렬 처리 성능을 최적화합니다.
Supermicro는 널리 사용되는 8U 및 4U Universal GPU 시스템을 포함하여 다양한 범위의 AI 서버를 제공합니다. 100방향 및 200방향 NVIDIA HGX H41 GPU를 갖춘 이 시스템은 이제 새로운 H4.8 GPU(XNUMXTB/s의 대역폭과 XNUMXGB 메모리 기능)를 위한 드롭인 준비가 되어 있어 더 큰 언어의 훈련 시간을 더욱 빠르게 할 수 있습니다. 모델.
Supermicro는 다가오는 SC4에서 23U Universal GPU 시스템을 선보일 예정입니다.
아마존