Microsoft Azure se ha convertido en el primer proveedor de servicios en la nube en implementar y activar servidores con procesadores de IA NVIDIA GB200. En una publicación en X , Azure mostró sus racks de servidores de IA NVIDIA GB200 personalizados y añadió: «Estamos optimizando cada nivel para impulsar los modelos de IA más avanzados del mundo, aprovechando la red Infiniband y la innovadora refrigeración líquida de circuito cerrado».
La implementación de Microsoft incluye bastidores de servidores diseñados a medida, cada uno de los cuales alberga aproximadamente 32 procesadores B200. Azure ha desarrollado un sistema avanzado de refrigeración líquida de circuito cerrado para gestionar el inmenso calor generado por estas unidades de alto rendimiento. Esta configuración demuestra el compromiso de Microsoft de ampliar los límites de la computación de IA y su experiencia en gestión térmica para hardware de próxima generación.
La GPU Blackwell B200 representa una mejora sustancial en las capacidades de procesamiento de IA. En comparación con su predecesora, la H100, la B200 ofrece:
- Rendimiento 2.5 veces mayor para operaciones FP8/INT8 (4,500 TFLOPS/TOPS frente a 1,980 TOPS)
- 9 PFLOPS de rendimiento utilizando el formato de datos FP4
Estos avances permitirán el entrenamiento de modelos de lenguaje grandes y complejos (LLM) y potencialmente revolucionarán las aplicaciones de IA en diversas industrias.
El CEO de Microsoft, Satya Nadella, destacó la continua colaboración de la compañía con NVIDIA en otra publicación en X, afirmando: "Nuestra larga colaboración con NVIDIA y nuestra profunda innovación siguen liderando la industria, impulsando las cargas de trabajo de IA más sofisticadas".
Si bien la implementación actual parece tener fines de prueba, indica que Microsoft está lista para ofrecer próximamente servidores basados en Blackwell para cargas de trabajo comerciales. Se esperan más detalles sobre la oferta de servidores Blackwell en la próxima conferencia Ignite de Microsoft en Chicago, programada del 18 al 22 de noviembre de 2024.
Como primer proveedor de servicios en la nube que pone en funcionamiento los sistemas NVIDIA Blackwell, Microsoft Azure se ha posicionado como líder en infraestructura de IA. Es probable que esta medida acelere el desarrollo de modelos y aplicaciones de IA más avanzados, lo que podría transformar varios sectores que dependen de los servicios de IA basados en la nube.
La implementación exitosa de estos sistemas informáticos de alta densidad y alto rendimiento también establece un nuevo estándar para el diseño de centros de datos y las tecnologías de refrigeración. A medida que más proveedores adopten tecnologías similares, podremos presenciar un cambio en la construcción y operación de los centros de datos para satisfacer las crecientes demandas de cargas de trabajo de IA.
Se espera que la implementación de las instalaciones de servidores Blackwell se acelere a fines de 2024 o principios de 2025, lo que preparará el terreno para otra evolución en el panorama de la IA. La adopción temprana por parte de Microsoft puede darle una ventaja competitiva para atraer a investigadores de IA y empresas que buscan aprovechar los recursos informáticos más avanzados disponibles.
Amazon