Oracle Cloud Infrastructure(OCI)는 100개의 NVIDIA H56 GPU, 트윈 Intel 2코어 Xeon CPU, 5TB의 DDR16, 400x NVMe SSD 및 100.8Gb 네트워킹을 클라우드의 AI 꿈에 패키지하는 새로운 베어메탈 컴퓨팅 형태를 출시했습니다. OCI Compute BM.GPU.HXNUMX은 현재 정식 출시되었습니다.
새로운 OCI Compute BM.GPU.H100.8은 오라클의 광범위한 베어메탈 클라우드 전문 기술을 활용하여 온프레미스 환경에서 흔히 볼 수 있는 고밀도 8웨이 H100 GPU 서버의 클라우드 버전을 제공합니다. 델 파워엣지 XE9680 과 같은 제품은 구축에 시간이 걸리고 자본 지출(CAPEX)이 발생하는 반면, OCI Compute BM.GPU.H100.8은 즉시 사용 가능하며 기존 클라우드 운영 비용(OPEX) 모델을 따릅니다.
OCI 컴퓨트 BM.GPU.H100.8
| 구성 요소 | 기술 사양 |
|---|---|
| CPU | 4세대 Intel Xeon 프로세서, 2x 56 코어 |
| GPU | 8x NVIDIA H100 80GB 텐서 코어 |
| 메모리 | 2TB DDR5 |
| 로컬 저장소 | 16x 3.84TB NVMe |
| 클러스터 네트워킹 | 8x 400Gb/초 |
OCI Compute BM.GPU.H100.8 사양은 이러한 강력한 GPU 서버의 온프레미스 버전을 어느 정도 모델링합니다. 비록 이와 같은 서버에서 일반적으로 볼 수 있는 SSD의 두 배(낮은 용량이지만)를 갖추고 있기는 하지만 말입니다. Oracle은 또한 40년 초에 출시될 새로운 NVIDIA L2024S GPU를 제공할 계획이라고 밝혔습니다. BM.L40S.4 형태에는 Intel Xeon 40코어 CPU가 탑재된 56개의 L1S GPU, 15.36TB 메모리, 400TB 스토리지가 포함됩니다. NVMe 스토리지 및 XNUMXGB/s의 네트워크 대역폭.
많은 조직이 이러한 인스턴스 중 하나로 문제를 해결하지만 OCI Supercluster를 사용하면 단일 노드에서 최대 50,000개의 H100 GPU까지 확장할 수 있습니다. 이 옵션은 올해 후반에 런던과 시카고 지역에서 제공될 예정이며 앞으로 더 많은 지역이 제공될 예정입니다.
아마존