AMD usó su evento "Estreno de tecnología de IA y centro de datos" para anunciar nuevos productos y compartir cómo la compañía dará forma a la próxima fase de innovación del centro de datos. El anuncio incluye actualizaciones de la familia de procesadores EPYC de cuarta generación, la nueva familia de aceleradores de la serie AMD Instinct MI4 y una cartera de redes actualizada.
Procesador EPYC de cuarta generación optimizado para el centro de datos moderno
Las actualizaciones de la familia EPYC de 4.ª generación que se dieron a conocer al comienzo del centro de datos de AMD y el estreno de la tecnología de IA incluyen especialización de carga de trabajo que aborda demandas comerciales específicas. AMD presentó sus procesadores AMD EPYC 4X97 de cuarta generación, anteriormente con el nombre en código "Bergamo", que brindan una mayor densidad de vCPU y un mayor rendimiento dirigido a aplicaciones que se ejecutan en la nube.
| Modelo | Colores | Subprocesos máximos | TDP predeterminado | frecuencia base (GHz) | Refuerzo de frecuencia (GHz) | Caché L3 (MB) |
| 9754 | 128 | 256 | 360 W | 2.25 | 3.10 | 256 |
| 9754S | 128 | 128 | 360 W | 2.25 | 3.10 | 256 |
| 9734 | 112 | 224 | 320 W | 2.2 | 3.0 | 256 |
AMD está dando un gran paso en el ecosistema de la IA con este anuncio, que incluye los nuevos procesadores AMD EPYC 97X4 de cuarta generación. Estos procesadores están diseñados específicamente para satisfacer las exigencias de las cargas de trabajo modernas. Con una impresionante cantidad de 128 núcleos (¿ a alguien más le apetece un Pie? ), ofrecen una potencia de cálculo sin precedentes para aplicaciones de IA.
El mayor número de núcleos, junto con una mejor eficiencia energética y de bienes raíces, permite que estos procesadores manejen cálculos complejos de IA mientras admiten hasta tres veces más contenedores por servidor. Este avance contribuye a la creciente adopción de aplicaciones de IA nativas de la nube.
| Modelo | Colores | Subprocesos máximos | TDP predeterminado | frecuencia base (GHz) | Refuerzo de frecuencia (GHz) | Caché L3 (MB) |
| 9684X | 96 | 192 | 400 W | 2.55 | 3.70 | 1,152 |
| 9384X | 32 | 64 | 320 W | 3.10 | 3.90 | 768 |
| 9184X | 16 | 32 | 320 W | 3.55 | 4.20 | 768 |
Los últimos procesadores AMD EPYC Zen 4, equipados con 3D V-Cache y con nombre en clave Genoa-X, han sido identificados como la CPU para servidores x86 líder en computación técnica en un informe reciente de SPEC.org . Estos procesadores de vanguardia incorporan 3D V-Cache a los chips Zen 4 de 96 núcleos y ofrecen una amplia caché L3 superior a 1 GB, lo que facilita el desarrollo rápido de productos. AMD afirma que estos procesadores pueden acelerar significativamente el desarrollo de productos, permitiendo hasta el doble de tareas de diseño diarias con un menor consumo de servidores y energía.
Avances en la plataforma de IA
AMD presentó su plan para mejorar su AI Platform al ofrecer a los clientes una variedad de productos de hardware, desde la nube hasta el borde y el punto final, y una amplia colaboración con el software de la industria para crear soluciones de IA adaptables y generalizadas.
AMD compartió detalles de la familia de aceleradores AMD Instinct MI300 Series, incluido el acelerador AMD Instinct MI300X, un acelerador avanzado para IA generativa.
La introducción del acelerador AMD Instinct MI300X es intrigante. Esta unidad de procesamiento acelerado (APU) de vanguardia es parte de la arquitectura del acelerador CDNA 3 de próxima generación de AMD y cuenta con hasta 192 GB de memoria HBM3. Este extenso grupo de memoria está diseñado para abordar cargas de trabajo de IA exigentes, en particular aquellas que involucran inferencia de modelo de lenguaje grande (LLM) e IA generativa. La gran capacidad del MI300X puede acomodar incluso los modelos de lenguaje más grandes, como Falcon-40B, en un solo acelerador de GPU. Esto representa un paso adelante potencialmente transformador para el procesamiento y la eficiencia de la IA.
La introducción de AMD MI300X en el mercado podría alterar la supremacía existente de NVIDIA, ya que está diseñado para desafiar al líder del mercado, NVIDIA H100. NVIDIA tiene la participación mayoritaria en este segmento de mercado lucrativo y en rápida expansión, con una participación de mercado de alrededor del 60% al 70% en servidores de IA. La introducción de un acelerador tan capaz en este momento será bueno para el ecosistema en su conjunto, que está vinculado principalmente a CUDA de NVIDIA. Un 20 por ciento adicional es aportado por chips integrados específicos de aplicaciones (ASIC) hechos a medida por proveedores de servidores en la nube, incluidos los chips Inferentia y Trainium de Amazon, y las unidades de procesamiento de tensor (TPU) de Alphabet.
Plataforma de arquitectura AMD Infinity
AMD también presentó AMD Infinity Architecture Platform, que reúne ocho aceleradores MI300X en un diseño estándar de la industria para mejorar la formación e inferencia generativa de IA.
El MI300X se está distribuyendo a clientes clave a partir del tercer trimestre. El primer acelerador APU para cargas de trabajo de computación de alto rendimiento (HPC) e inteligencia artificial (IA), el AMD Instinct MI300A, ya se está distribuyendo a clientes.
Destacando la colaboración con los líderes de la industria para reunir un ecosistema abierto de IA, AMD presentó el ecosistema de software AMD ROCm para aceleradores de centros de datos.
Una cartera de redes para la nube y la empresa
AMD también presentó su cartera de soluciones de red, que incluye la DPU AMD Pensando, las tarjetas de red AMD de latencia ultrabaja y la tarjeta de red adaptativa AMD. Las DPU AMD Pensando combinan una pila de software con seguridad de confianza cero y un procesador de paquetes programable para crear una DPU inteligente y de alto rendimiento.
AMD destacó la próxima generación de su DPU, cuyo nombre en clave es "Giglio", que pretende ofrecer un rendimiento y una eficiencia energética mejorados en comparación con los productos de la generación actual y que se espera que esté disponible a finales de 2023.
El anuncio final se centró en el kit de desarrollo de software integrado en silicio (SSDK) de AMD Pensando, que permite a los clientes desarrollar o migrar servicios rápidamente para implementarlos en la DPU programable AMD Pensando P4, en coordinación con las funciones ya implementadas en la plataforma AMD Pensando. El SSDK de AMD Pensando permite a los clientes aprovechar la potencia de la DPU de AMD Pensando y personalizar las funciones de virtualización de red y seguridad dentro de su infraestructura.
Amazon