Durante su discurso de apertura en Computex, la presidenta y directora ejecutiva de AMD, Dra. Lisa Su, reveló importantes avances en la familia de aceleradores AMD Instinct. La compañía anunció una hoja de ruta plurianual ampliada para los aceleradores, prometiendo mejoras anuales en el rendimiento de la IA y las capacidades de memoria. Esto marca una nueva era de innovación para la IA y las cargas de trabajo de los centros de datos.
Durante su discurso de apertura en Computex, la presidenta y directora ejecutiva de AMD, Dra. Lisa Su, reveló importantes avances en la familia de aceleradores AMD Instinct. La compañía anunció una hoja de ruta plurianual ampliada para los aceleradores, prometiendo mejoras anuales en el rendimiento de la IA y las capacidades de memoria. Esto marca una nueva era de innovación para la IA y las cargas de trabajo de los centros de datos.
Presentamos el acelerador AMD Instinct MI325X
La hoja de ruta actualizada comienza con el nuevo acelerador AMD Instinct MI325X, que estará disponible en el cuarto trimestre de 4. Este acelerador cuenta con 2024 GB de memoria HBM288E y un ancho de banda de memoria de 3 terabytes por segundo. Utiliza el diseño de servidor de placa base universal, lo que garantiza la compatibilidad con la serie AMD Instinct MI6.
El MI325X cuenta con capacidad de memoria y ancho de banda líderes en la industria, superando a la competencia en 2x y 1.3x, respectivamente. Ofrece un rendimiento informático 1.3 veces mejor que el de la competencia, lo que la convierte en una herramienta poderosa para cargas de trabajo de IA.
Generaciones futuras: series MI350 y MI400
Después del MI325X, se espera que en 350 se lance la serie AMD Instinct MI4, impulsada por la nueva arquitectura AMD CDNA 2025. Esta serie traerá un salto sustancial en el rendimiento de inferencia de IA, con proyecciones que indican un aumento de hasta 35 veces en comparación con AMD. Serie Instinct MI300. El acelerador MI350X mantendrá el diseño de placa base universal, utilizará tecnología de proceso avanzada de 3 nm, admitirá tipos de datos de IA FP4 y FP6 y contará con hasta 288 GB de memoria HBM3E.
De cara al futuro, la serie AMD Instinct MI400, impulsada por la arquitectura AMD CDNA “Next”, está programada para lanzarse en 2026. Esta serie presentará las últimas características y capacidades diseñadas para mejorar el rendimiento y la eficiencia para el entrenamiento e inferencia de IA a gran escala. tareas.
Adopción e impacto de los aceleradores AMD Instinct MI300X
Los aceleradores AMD Instinct MI300X han experimentado una fuerte adopción por parte de los principales socios y clientes, incluidos Microsoft Azure, Meta, Dell Technologies, HPE, Lenovo y otros. Brad McCredie, vicepresidente corporativo de Computación Acelerada del Centro de Datos de AMD, destacó el rendimiento excepcional y la propuesta de valor de los aceleradores MI300X, destacando su importante papel en el impulso de la innovación en IA. Afirmó: "Con nuestra cadencia anual actualizada de productos, somos implacables en nuestro ritmo de innovación, brindando las capacidades de liderazgo y el rendimiento de la industria de la IA, y nuestros clientes esperan impulsar la próxima evolución de la capacitación e inferencia de IA en los centros de datos".
Avances en el ecosistema de software de IA de AMD
La pila de software abierto AMD ROCm 6 continúa madurando, lo que permite que los aceleradores AMD Instinct MI300X ofrezcan un rendimiento impresionante para los populares modelos de lenguajes grandes (LLM). En servidores que utilizan ocho aceleradores AMD Instinct MI300X y ROCm 6 con Meta Llama-3 70B, los clientes pueden lograr un rendimiento de inferencia y generación de tokens 1.3 veces mejor en comparación con la competencia.
Además, un único acelerador AMD Instinct MI300X con ROCm 6 puede superar a los competidores en 1.2 veces en rendimiento de inferencia y rendimiento de generación de tokens en Mistral-7B.
La colaboración de AMD con Hugging Face, el mayor repositorio de modelos de IA, subraya aún más la solidez del ecosistema. Hugging Face prueba 700,000 de sus modelos más populares todas las noches para garantizar una funcionalidad perfecta en los aceleradores AMD Instinct MI300X. AMD también continúa su trabajo ascendente con marcos de IA populares como PyTorch, TensorFlow y JAX, garantizando una amplia compatibilidad y un rendimiento mejorado.
Aspectos destacados clave de la hoja de ruta de AMD
Durante la conferencia magistral, AMD dio a conocer una cadencia anual actualizada para la hoja de ruta del acelerador AMD Instinct para satisfacer la creciente demanda de computación de IA. Esto garantiza que los aceleradores AMD Instinct seguirán impulsando el desarrollo de modelos de IA de vanguardia de próxima generación.
- Acelerador AMD Instinct MI325X: Este acelerador, que se lanzará en el cuarto trimestre de 4, contará con 2024 GB de memoria HBM288E, 3 terabytes por segundo de ancho de banda de memoria y capacidad de memoria y ancho de banda líderes en la industria. Ofrece un rendimiento informático 6 veces mejor en comparación con la competencia.
- Serie AMD Instinct MI350: Esperado para 2025, el acelerador MI350X se basará en la arquitectura AMD CDNA 4 y utilizará tecnología avanzada de proceso de 3 nm. Admitirá los tipos de datos AI FP4 y FP6 e incluirá hasta 288 GB de memoria HBM3E.
- Serie AMD Instinct MI400: Programada para 2026, esta serie aprovechará la arquitectura AMD CDNA “Next”, introduciendo nuevas características y capacidades para mejorar el rendimiento de inferencia y entrenamiento de IA.
Adopción generalizada en la industria
La demanda de aceleradores AMD Instinct MI300X continúa creciendo, y numerosos socios y clientes aprovechan estos aceleradores para sus exigentes cargas de trabajo de IA.
- microsoft Azure: Utilización de aceleradores MI300X para servicios Azure OpenAI y las nuevas máquinas virtuales Azure ND MI300X V5.
- Tecnologías Dell: Integración de aceleradores MI300X en PowerEdge XE9680 para cargas de trabajo de IA empresarial.
- Supermicro: Proporcionar múltiples soluciones incorporando aceleradores AMD Instinct.
- Lenovo: Impulsando la innovación de IA híbrida con ThinkSystem SR685a V3.
- HPE: Uso de aceleradores MI300X para mejorar las cargas de trabajo de IA en HPE Cray XD675.
La introducción por parte de AMD de la hoja de ruta ampliada del acelerador Instinct en Computex 2024 marca un hito importante en la estrategia de centros de datos e inteligencia artificial de la compañía. Con el compromiso de realizar actualizaciones anuales de productos, rendimiento mejorado y una amplia adopción en la industria, los aceleradores AMD Instinct están preparados para impulsar la próxima generación de innovación en IA.
Interactuar con StorageReview
Boletín | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS Feed
