Oracle Cloud Infrastructure (OCI) ha lanciato una nuova forma di elaborazione bare metal che racchiude otto GPU NVIDIA H100, due CPU Intel Xeon a 56 core, 2 TB di DDR5, 16 SSD NVMe e rete da 400 Gb in un sogno di intelligenza artificiale nel cloud. OCI Compute BM.GPU.H100.8 è generalmente disponibile ora.
La nuova configurazione OCI Compute BM.GPU.H100.8 sfrutta la vasta esperienza di Oracle nel cloud bare metal per offrire una versione cloud dei server GPU H100 a 8 vie ad alta densità, spesso presenti nelle installazioni on-premise. Tuttavia, mentre una soluzione come il Dell PowerEdge XE9680 potrebbe richiedere tempi di implementazione più lunghi e comportare un investimento in conto capitale (CAPEX), OCI Compute BM.GPU.H100.8 può essere resa disponibile più rapidamente e segue il tradizionale modello di spesa operativa (OPEX) del cloud.
Calcolo OCI BM.GPU.H100.8
| Componente | Specifiche |
|---|---|
| CPU | Processori Intel Xeon di quarta generazione, 4x 2 core |
| GPU | 8x Tensor Core NVIDIA H100 da 80 GB |
| Memorie | DDR2 da 5TB |
| Archiviazione locale | 16 NVMe da 3.84 TB |
| Rete di cluster | 8x400 Gbit/s |
Le specifiche OCI Compute BM.GPU.H100.8 modellano più o meno le versioni on-premise di questi potenti server GPU, anche se con il doppio degli SSD (sebbene a bassa capacità) tipicamente presenti su server come questo. Oracle ha inoltre indicato che intende offrire le nuove GPU NVIDIA L40S in forme in arrivo all'inizio del 2024. La forma BM.L40S.4 includerà quattro GPU L40S con CPU Intel Xeon a 56 core gemelle, 1 TB di memoria, 15.36 TB di memoria. Spazio di archiviazione NVMe e 400 GB/s di larghezza di banda di rete.
Sebbene molte organizzazioni se la cavino benissimo con una sola di queste istanze, OCI Supercluster consente loro di scalare da un singolo nodo fino a 50,000 GPU H100. Questa opzione sarà disponibile entro la fine dell'anno nelle regioni di Londra e Chicago, e altre arriveranno in futuro.
Amazon