Oracle Cloud Infrastructure (OCI) ha lanzado una nueva forma de computación bare metal que incluye ocho GPU NVIDIA H100, CPU Intel Xeon de 56 núcleos gemelas, 2 TB de DDR5, 16 SSD NVMe y redes de 400 Gb en un sueño de IA en la nube. OCI Compute BM.GPU.H100.8 ya está disponible de forma generalizada.
La nueva solución OCI Compute BM.GPU.H100.8 aprovecha la vasta experiencia de Oracle en la nube bare metal para ofrecer una versión en la nube de los servidores GPU H100 de alta densidad y 8 vías, que suelen encontrarse en entornos locales. Sin embargo, mientras que una solución como el Dell PowerEdge XE9680 puede tardar un tiempo en implementarse y supone un gasto de capital (CAPEX), OCI Compute BM.GPU.H100.8 puede estar disponible de forma más inmediata y sigue el modelo tradicional de gastos operativos (OPEX) en la nube.
Computación OCI BM.GPU.H100.8
| Componente | Especificaciones |
|---|---|
| CPU | Procesadores Intel Xeon de cuarta generación, 4x 2 núcleos |
| GPU | 8 núcleos tensores NVIDIA H100 de 80 GB |
| Salud Cerebral | DDR2 de 5 TB |
| Almacenamiento local | 16x 3.84TB NVMe |
| Redes de clústeres | 8x 400 Gb/s |
Las especificaciones de OCI Compute BM.GPU.H100.8 modelan más o menos las versiones locales de estos potentes servidores GPU, aunque con el doble de SSD (aunque de baja capacidad) que normalmente se encuentran en servidores como este. Oracle también ha indicado que planea ofrecer las nuevas GPU NVIDIA L40S en formas que llegarán a principios de 2024. La forma BM.L40S.4 incluirá cuatro GPU L40S con CPU gemelas Intel Xeon de 56 núcleos, 1 TB de memoria, 15.36 TB de Almacenamiento NVMe y 400 GB/s de ancho de banda de red.
Si bien muchas organizaciones se las arreglarán bien con una sola de estas instancias, OCI Supercluster les permite escalar desde un solo nodo hasta 50,000 100 GPU HXNUMX. Esta opción estará disponible a finales de este año en las regiones de Londres y Chicago, y habrá más en el futuro.
Amazon