Ampere Computing ha presentado su actualización anual, que muestra los próximos productos e hitos que subrayan su innovación continua en computación sustentable y energéticamente eficiente basada en ARM para la nube y la inteligencia artificial. Este anuncio se destacó con la introducción de una CPU innovadora que promete ofrecer un 40% más de rendimiento que cualquier oferta actual del mercado.
La actualización anual incluyó la colaboración de Ampere con Qualcomm Technologies. Las dos empresas están trabajando juntas para desarrollar una solución conjunta para la inferencia de IA. Esta solución aprovechará las soluciones de inferencia Cloud AI 100 de Qualcomm junto con las CPU de Ampere, abordando las crecientes demandas de energía de la IA.
El enfoque ARM de Ampere se centra en maximizar el rendimiento manteniendo un bajo consumo de energía, desafiando la noción tradicional de que un alto rendimiento requiere alta potencia. La compañía ha demostrado que se puede lograr un rendimiento superior dentro de un entorno de energía eficiente, superando las capacidades de las CPU heredadas.
Ampere enfatizó la trayectoria insostenible de las tendencias actuales de consumo de energía en los centros de datos. Abogan por modernizar los entornos refrigerados por aire con soluciones informáticas más eficientes y construir nuevos centros de datos ambientalmente sostenibles que se alineen con la red eléctrica disponible.
Otros anuncios durante la actualización de este año incluyeron las siguientes noticias destacadas:
- Ampere Computing anunció varios desarrollos importantes en su última actualización. La compañía está colaborando con Qualcomm Technologies para crear una solución conjunta con CPU Ampere y Qualcomm Cloud AI 100 Ultra, destinada a manejar la inferencia LLM en los modelos de IA generativa más importantes de la industria.
- La actualización destacó la expansión de la plataforma de 12 canales de Ampere con la próxima CPU AmpereOne de 256 núcleos. Esta CPU promete más de un 40 % más de rendimiento que cualquier CPU del mercado actual, al tiempo que mantiene las mismas soluciones térmicas refrigeradas por aire que el AmpereOne de 192 núcleos existente. Aún se espera que la versión de 192 núcleos se lance a finales de este año.
- En otro avance, Llama 3 de Meta ahora está operativo en CPU Ampere en Oracle Cloud. Los datos de rendimiento indican que ejecutar Llama 3 en la CPU Ampere Altra de 128 núcleos, sin GPU, iguala el rendimiento de una GPU NVIDIA A10 emparejada con una CPU x86, usando solo un tercio de la energía.
- Ampere también anunció la formación de un grupo de trabajo UCIe como parte de AI Platform Alliance. Esta iniciativa mejorará la flexibilidad de sus CPU mediante la utilización de tecnología de interfaz abierta, lo que permitirá la integración de la IP de otros clientes en futuras CPU.
- Se proporcionaron más detalles sobre el rendimiento de AmpereOne y las plataformas OEM/ODM, enfatizando su liderazgo continuo en rendimiento por vatio, superando a AMD Genoa y Bergamo en un 50% y 15%, respectivamente. Los centros de datos que busquen actualizar y consolidar la infraestructura podrán aprovechar el aumento de rendimiento por rack de AmpereOne de hasta un 34 %. Se espera que las nuevas plataformas AmpereOne OEM y ODM se envíen dentro de unos meses.
- En colaboración con NETINT, Ampere reveló una solución conjunta que utiliza chips de procesamiento de video Quadra T1U y CPU Ampere para transcodificar 360 canales en vivo y proporcionar subtítulos en tiempo real para 40 transmisiones en múltiples idiomas utilizando el modelo Whisper de OpenAI.
- Por último, Ampere ha introducido una nueva función FlexSKU, que permite a los clientes utilizar el mismo SKU para casos de uso de ampliación y ampliación. Esta función complementa las funciones existentes como etiquetado de memoria, cumplimiento de QOS y gestión de congestión de malla.
Las CPU Ampere basadas en ARM son versátiles y capaces de ejecutar una amplia gama de cargas de trabajo, desde aplicaciones populares nativas de la nube hasta tareas impulsadas por IA. Esto incluye la integración de la IA con aplicaciones tradicionales como el procesamiento de datos, el servicio web y la entrega de medios.
Amazon