IBM ha annunciato un'espansione della collaborazione con AMD per introdurre gli acceleratori AMD Instinct MI300X come servizio su IBM Cloud. Questa soluzione migliora le prestazioni e l'efficienza energetica per i modelli di intelligenza artificiale generativa (GenAI) e le applicazioni di elaborazione ad alte prestazioni (HPC), rispondendo alla crescente domanda di soluzioni di intelligenza artificiale scalabili tra i clienti aziendali.
La partnership estende il supporto per gli acceleratori AMD Instinct MI300X all'intero ecosistema di intelligenza artificiale e dati di IBM, incluse la piattaforma AI watsonx e Red Hat® Enterprise Linux® per l'inferenza AI. Ciò si allinea al portfolio esistente di IBM Cloud, che già include acceleratori Intel Gaudi 3 ed estende le istanze GPU NVIDIA H100 Tensor Core , migliorando ulteriormente la sua capacità di fornire carichi di lavoro di intelligenza artificiale e HPC ad alte prestazioni.
Funzionalità avanzate degli acceleratori AMD Instinct MI300X
Gli acceleratori AMD Instinct MI300X, dotati di 192 GB di memoria ad alta larghezza di banda (HBM3), sono progettati per supportare l'inferenza e la messa a punto di modelli complessi per applicazioni di intelligenza artificiale aziendali. La loro elevata capacità di memoria consente alle aziende di eseguire modelli di IA più grandi con un numero inferiore di GPU, riducendo i costi e mantenendo prestazioni e scalabilità. Abbiamo recentemente testato questi acceleratori nella nostra recensione dell'XE9680.
Offrendo questi acceleratori come servizio su IBM Cloud Virtual Servers per VPC e tramite soluzioni containerizzate come IBM Cloud Kubernetes Service e IBM Red Hat OpenShift, IBM mira a fornire ai clienti aziendali un ambiente sicuro e ad alte prestazioni ottimizzato per i loro carichi di lavoro AI. Questa flessibilità consente alle organizzazioni di scalare le loro distribuzioni AI in modo efficiente mantenendo al contempo una sicurezza e una conformità robuste, particolarmente vitali per i clienti in settori altamente regolamentati.
Integrazione con le piattaforme IBM Watsonx e Red Hat
Per soddisfare le esigenze dei carichi di lavoro di inferenza AI generativa, IBM prevede di integrare gli acceleratori AMD Instinct MI300X con la sua piattaforma AI watsonx. Ciò fornirà ai clienti watsonx risorse infrastrutturali AI aggiuntive, consentendo loro di scalare i carichi di lavoro senza soluzione di continuità in ambienti cloud ibridi. Gli acceleratori supporteranno anche le piattaforme AI Red Hat Enterprise Linux e AI Red Hat OpenShift, consentendo alle aziende di distribuire modelli di linguaggio di grandi dimensioni (LLM) come la famiglia Granite con strumenti di allineamento avanzati come InstructLab.
Queste integrazioni sottolineano la capacità degli acceleratori di gestire carichi di lavoro ad alta intensità di calcolo con maggiore flessibilità, consentendo alle aziende di dare priorità a prestazioni, efficienza dei costi e scalabilità nelle loro distribuzioni di intelligenza artificiale.
Philip Guido, Executive Vice President e Chief Commercial Officer di AMD, ha sottolineato l'importanza delle prestazioni e della flessibilità nell'elaborazione di carichi di lavoro ad alta intensità di calcolo, soprattutto quando le aziende adottano modelli AI più grandi. Ha osservato che gli acceleratori AMD Instinct, abbinati al software AMD ROCm, offrono un ampio supporto di ecosistema per piattaforme come IBM watsonx AI e Red Hat OpenShift AI, consentendo ai clienti di eseguire e scalare l'inferenza GenAI senza compromettere l'efficienza o i costi.
Alan Peacock, General Manager di IBM Cloud, ha riecheggiato questi sentimenti, sottolineando la visione condivisa di AMD e IBM di portare soluzioni AI alle aziende. Ha affermato che sfruttare gli acceleratori AMD su IBM Cloud fornisce ai clienti aziendali opzioni scalabili e convenienti per soddisfare i loro obiettivi AI, supportate dall'impegno di IBM per la sicurezza, la conformità e le soluzioni orientate ai risultati.
La collaborazione porta maggiore sicurezza e conformità
La collaborazione sfrutta le rinomate capacità di sicurezza e conformità di IBM Cloud, garantendo alle aziende, comprese quelle in settori fortemente regolamentati, di adottare con sicurezza l'infrastruttura AI basata sugli acceleratori AMD. Questo impegno per la sicurezza è parte integrante della strategia di IBM e AMD di supportare l'adozione dell'AI aziendale su larga scala.
Con questa collaborazione, IBM e AMD forniscono alle aziende un'infrastruttura AI all'avanguardia che bilancia prestazioni, scalabilità ed efficienza. L'aggiunta degli acceleratori AMD Instinct MI300X a IBM Cloud è pronta a soddisfare le crescenti richieste di carichi di lavoro AI aziendali, consentendo alle organizzazioni di sbloccare nuove possibilità nelle applicazioni AI e HPC.
Disponibilità
Si prevede che i servizi IBM Cloud dotati di acceleratori AMD Instinct MI300X saranno disponibili al pubblico nella prima metà del 2025, ampliando ulteriormente il portafoglio di soluzioni AI e HPC ad alte prestazioni di IBM.
Amazon