NVIDIA ha anunciado las especificaciones de sus servidores en rack de arquitectura abierta Vera Rubin NVL144 de la generación MGX. Más de 50 socios MGX se están preparando para este lanzamiento, junto con el soporte del ecosistema para NVIDIA Kyber, que conecta 576 GPU Rubin Ultra y está diseñado para satisfacer las crecientes demandas de inferencia.
En septiembre, NVIDIA anunció una ampliación de su colaboración con Intel . Por su parte, Intel presentó sus nuevos procesadores Xeon 6, uno de los cuales actúa como CPU principal para la NVIDIA DGX B300, la última generación de sistemas acelerados por IA de la compañía. La NVIDIA DGX B300 integra el Intel Xeon 6776P, que desempeña un papel fundamental en la gestión, la orquestación y el soporte del sistema acelerado por IA. Gracias a su robusta capacidad de memoria y ancho de banda, el Xeon 6776P satisface las crecientes necesidades de los modelos y conjuntos de datos de IA.
El Xeon 6776P está diseñado como una CPU "host de GPU" con Priority Core Turbo (PCT) e Intel Speed Select-Turbo Frequency (SST-TF), lo que permite que un pequeño conjunto de núcleos pueda optimizar su rendimiento y gestionar la orquestación sensible a la latencia, mientras que otros núcleos funcionan a frecuencias base. Esto ayuda a mejorar el uso efectivo de la GPU en clústeres NVLink al reducir las interrupciones en el preprocesamiento, la gestión de caché KV y la programación.
Vera Rubin NVL144: Diseñado para escalar en fábricas de IA
La bandeja de cómputo Vera Rubin NVL144 MGX presenta un diseño modular de bajo consumo, con refrigeración líquida completa. Su placa de circuito impreso central reemplaza las conexiones de cables convencionales, lo que permite un montaje más rápido y un mantenimiento más sencillo. También incluye bahías de expansión modulares para redes NVIDIA ConnectX-9 de 800 GB/s y NVIDIA Rubin CPX, lo que permite realizar tareas de inferencia a gran escala.
La NVIDIA Vera Rubin NVL144 representa un avance significativo en la arquitectura de computación acelerada y las capacidades de IA. Está diseñada para soportar motores de razonamiento avanzados y satisfacer las necesidades de los agentes de IA.
El diseño principal se basa en la arquitectura de rack MGX y contará con el respaldo de más de 50 socios de sistemas y componentes MGX. NVIDIA pretende aportar las innovaciones mejoradas de rack y bandeja de cómputo como estándar abierto al consorcio OCP.
Sus estándares para bandejas y racks de cómputo permiten a los socios ensamblar sistemas modulares y escalar con mayor rapidez con la arquitectura. El diseño del rack Vera Rubin NVL144 cuenta con refrigeración líquida de 45 °C de alta eficiencia energética, una nueva barra colectora refrigerada por líquido para un rendimiento mejorado y 20 veces más almacenamiento de energía para mantener un suministro de energía constante.
Las mejoras de MGX para computar la arquitectura de bandejas y bastidores mejoran el rendimiento de la fábrica de IA y facilitan el ensamblaje, lo que permite una rápida ampliación a una infraestructura de IA de nivel de gigavatios.
El ecosistema NVIDIA NVLink Fusion se expande
Además del hardware, NVIDIA NVLink Fusion está ganando impulso, lo que permite a las empresas integrar sin problemas su silicio semipersonalizado en una arquitectura de centro de datos ampliamente implementada y altamente optimizada, lo que reduce la complejidad y acelera el tiempo de comercialización.
Intel y Samsung Foundry se unen al ecosistema NVLink Fusion, que abarca diseñadores de silicio personalizados, socios de CPU e IP, lo que permite a las fábricas de IA escalar y gestionar rápidamente cargas de trabajo intensivas para el entrenamiento de modelos y la inferencia de IA agentica.
- Como parte del anuncio reciente Colaboración de NVIDIA e Intel, Intel construirá CPU x86 que se integrarán en las plataformas de infraestructura NVIDIA utilizando NVLink Fusion.
- Samsung Foundry se ha asociado con NVIDIA para satisfacer la creciente demanda de CPU y XPU personalizadas, ofreciendo una experiencia de diseño a fabricación para silicio personalizado.
Bastidor NVIDIA Kyber
Más de 20 socios de la industria presentan nuevo silicio, componentes, sistemas de alimentación y soporte para centros de datos de corriente continua (VCC) de 800 voltios de próxima generación. Estos centros, diseñados para la era de los gigavatios, serán compatibles con la arquitectura de rack Kyber de NVIDIA.
Foxconn ha compartido detalles sobre su centro de datos taiwanés de 40 megavatios, Kaohsiung-1, que se está construyendo para la era de los 800 VCC. Otros líderes del sector, como CoreWeave, Lambda, Nebius, Oracle Cloud Infrastructure y Together AI, también están planificando centros de datos con infraestructura de 800 voltios en mente. Además, Vertiv ha presentado su arquitectura de referencia MGX de 800 VCC, una solución diseñada para optimizar el espacio, los costes y la eficiencia energética, a la vez que ofrece una infraestructura completa de alimentación y refrigeración. Por otro lado, HPE ofrece soporte para productos de NVIDIA Kyber y la tecnología de escalado horizontal NVIDIA Spectrum-XGS Ethernet, ambas partes integrales de la plataforma Ethernet Spectrum-X.
Cambiar a una infraestructura de 800 VCC desde sistemas trifásicos convencionales de 415 o 480 VCA ofrece mayor escalabilidad, mayor eficiencia energética, menor consumo de materiales y un mejor rendimiento en los centros de datos. Los sectores de vehículos eléctricos y energía solar ya han implementado infraestructura de 800 VCC para lograr estos beneficios.
Generación de servidores NVIDIA Kyber Rack
El ecosistema OCP también se está preparando para NVIDIA Kyber, que presenta innovaciones en suministro de energía de 800 VCC, refrigeración líquida y diseño mecánico.
Estas innovaciones facilitarán la transición a la generación de servidores en rack NVIDIA Kyber, el sucesor de NVIDIA Oberon, que se espera que cuente con una plataforma de alta densidad con 576 GPU NVIDIA Rubin Ultra para 2027.
La mejor manera de abordar los desafíos de la distribución de alta potencia es aumentar la tensión. Pasar de un sistema trifásico estándar de 415 o 480 V CA a uno de 800 V CC ofrece varias ventajas.
La transición en curso permite a los socios de servidores en rack actualizar sus componentes en rack de 54 VCC a 800 VCC, mejorando así el rendimiento. En el evento, un ecosistema colaborativo de proveedores de infraestructura de corriente continua, socios de sistemas de energía y refrigeración, y fabricantes de silicio colaboró en la creación de estándares abiertos para la arquitectura de referencia del servidor en rack MGX.
NVIDIA Kyber busca aumentar la densidad de GPU en racks, mejorar la capacidad de la red y optimizar el rendimiento de los sistemas de IA a gran escala. Incorpora el montaje vertical de módulos de cómputo, con soporte para hasta 18 módulos por chasis. Además, los módulos de conmutación NVLink especializados de NVIDIA se ubican en la parte posterior mediante un plano intermedio sin cables, lo que facilita una conectividad de red escalable y sin interrupciones.
Se transmite más del 150% más de potencia a través del mismo cobre con 800 VCC, lo que elimina la necesidad de barras colectoras de cobre de 200 kg para alimentar un solo rack.
Kyber se convertirá en un componente esencial de los centros de datos de IA a hiperescala, impulsando el rendimiento, la eficiencia y la fiabilidad de las tareas avanzadas de IA generativa. Los racks NVIDIA Kyber permiten a los clientes reducir significativamente el uso de cobre, lo que se traduce en un ahorro de millones de dólares.
Escalando la próxima generación de fábricas de IA
Más de 20 socios de NVIDIA están ayudando a entregar servidores en rack con estándares abiertos, lo que hace posible las futuras fábricas de IA de gigavatios.
- proveedores de silicio: Dispositivos analógicos, Inc. (ADI), A, EPC, Infineon, Innoscience, MPS, Navitas, onsemi, Power Integrations, Renesas, Richtek, ROHM, STMicroelectronics y texas Instruments
- Proveedores de componentes de sistemas de energía:Bizlink, Delta, Flexionar, GE Vernova, Lead Wealth, LITEON y Megmeet
- Proveedores de sistemas de energía para centros de datos:ABB, Eaton, GE Vernova, Heron Power, Hitachi Energía, Mitsubishi Electric, Schneider Electric, Siemens y Vertiv
NVIDIA es un colaborador destacado en los estándares OCP para múltiples generaciones de hardware, incluyendo componentes clave del diseño electromecánico del sistema NVIDIA GB200 NVL72. El mismo formato de rack MGX admite GB300 NVL72 y será compatible con Vera Rubin NVL144, Vera Rubin NVL144 CPX y Vera Rubin CPX para un mayor rendimiento y despliegues más rápidos.
Amazon