홈페이지 Enterprise OCI Compute BM.GPU.H100.8, 8개의 NVIDIA H100 GPU를 클라우드에 제공

OCI Compute BM.GPU.H100.8, 8개의 NVIDIA H100 GPU를 클라우드에 제공

by 브라이언 빌러

Oracle Cloud Infrastructure(OCI)는 100개의 NVIDIA H56 GPU, 트윈 Intel 2코어 Xeon CPU, 5TB의 DDR16, 400x NVMe SSD 및 100.8Gb 네트워킹을 클라우드의 AI 꿈에 패키지하는 새로운 베어메탈 컴퓨팅 형태를 출시했습니다. OCI Compute BM.GPU.HXNUMX은 현재 정식 출시되었습니다.

Oracle Cloud Infrastructure(OCI)는 100개의 NVIDIA H56 GPU, 트윈 Intel 2코어 Xeon CPU, 5TB의 DDR16, 400x NVMe SSD 및 100.8Gb 네트워킹을 클라우드의 AI 꿈에 패키지하는 새로운 베어메탈 컴퓨팅 형태를 출시했습니다. OCI Compute BM.GPU.HXNUMX은 현재 정식 출시되었습니다.

새로운 OCI Compute BM.GPU.H100.8 형태는 본질적으로 오라클의 방대한 베어메탈 클라우드 전문 지식을 활용하여 온프레미스에서 흔히 볼 수 있는 고밀도 8웨이 H100 GPU 서버의 클라우드 버전을 제공합니다. 하지만 델 파워에지 XE9680 CAPEX를 제공하고 히트하는 데 약간의 시간이 걸릴 수 있지만 OCI Compute BM.GPU.H100.8은 보다 즉시 사용할 수 있으며 기존 클라우드 OPEX 모델을 따릅니다.

OCI 컴퓨트 BM.GPU.H100.8

구성 요소 제품 사양
CPU 4세대 Intel Xeon 프로세서, 2x 56 코어
GPU 8x NVIDIA H100 80GB 텐서 코어
메모리 2TB DDR5
로컬 저장소 16x 3.84TB NVMe
클러스터 네트워킹 8x 400Gb/초

OCI Compute BM.GPU.H100.8 사양은 이러한 강력한 GPU 서버의 온프레미스 버전을 어느 정도 모델링합니다. 비록 이와 같은 서버에서 일반적으로 볼 수 있는 SSD의 두 배(낮은 용량이지만)를 갖추고 있기는 하지만 말입니다. Oracle은 또한 40년 초에 출시될 새로운 NVIDIA L2024S GPU를 제공할 계획이라고 밝혔습니다. BM.L40S.4 형태에는 Intel Xeon 40코어 CPU가 탑재된 56개의 L1S GPU, 15.36TB 메모리, 400TB 스토리지가 포함됩니다. NVMe 스토리지 및 XNUMXGB/s의 네트워크 대역폭.

많은 조직이 이러한 인스턴스 중 하나로 문제를 해결하지만 OCI Supercluster를 사용하면 단일 노드에서 최대 50,000개의 H100 GPU까지 확장할 수 있습니다. 이 옵션은 올해 후반에 런던과 시카고 지역에서 제공될 예정이며 앞으로 더 많은 지역이 제공될 예정입니다.

OCI AI 인프라

StorageReview에 참여

뉴스레터 | 유튜브 | 팟캐스트 iTunes/스포티 파이 | 인스타그램 | 트위터 | 틱톡 서비스 | RSS 피드