IBM har meddelat ett utökat samarbete med AMD för att introducera AMD Instinct MI300X-acceleratorer som en tjänst på IBM Cloud. Den här lösningen förbättrar prestanda och energieffektivitet för generativa AI-modeller (GenAI) och högpresterande datorapplikationer (HPC), och möter den ökande efterfrågan på skalbara AI-lösningar bland företagskunder.
Partnerskapet utökar stödet för AMD Instinct MI300X-acceleratorer i IBMs AI- och dataekosystem, inklusive watsonx AI-plattform och Red Hat® Enterprise Linux® för AI-inferens. Detta överensstämmer med IBM Clouds befintliga portfölj, som redan innehåller Intel Gaudi 3- acceleratorer och utökar NVIDIA H100 Tensor Core GPU- instanser, vilket ytterligare förbättrar dess förmåga att leverera högpresterande AI- och HPC-arbetsbelastningar.
Avancerade funktioner hos AMD Instinct MI300X-acceleratorer
AMD Instinct MI300X-acceleratorerna, utrustade med 192 GB högbandbreddminne (HBM3), är konstruerade för att stödja storskalig modellinferens och finjustering för AI-applikationer för företag. Deras höga minneskapacitet gör det möjligt för företag att köra större AI-modeller med färre GPU:er, vilket minskar kostnaderna samtidigt som prestanda och skalbarhet bibehålls. Vi testade nyligen dessa acceleratorer i vår XE9680-recension.
Genom att erbjuda dessa acceleratorer som en tjänst på IBM Cloud Virtual Servers för VPC och via containeriserade lösningar som IBM Cloud Kubernetes Service och IBM Red Hat OpenShift, strävar IBM efter att förse företagskunder med en säker, högpresterande miljö optimerad för deras AI-arbetsbelastningar. Denna flexibilitet gör det möjligt för organisationer att skala sina AI-distributioner effektivt samtidigt som de bibehåller robust säkerhet och efterlevnad – särskilt viktigt för kunder i starkt reglerade branscher.
Integration med IBM watsonx och Red Hat Platforms
För att möta behoven av generativa AI-inferencing-arbetsbelastningar planerar IBM att integrera AMD Instinct MI300X-acceleratorer med sin watsonx AI-plattform. Detta kommer att utrusta watsonx-klienter med ytterligare AI-infrastrukturresurser, vilket gör det möjligt för dem att skala arbetsbelastningar sömlöst över hybridmolnmiljöer. Acceleratorerna kommer också att stödja Red Hat Enterprise Linux AI och Red Hat OpenShift AI-plattformar, vilket gör att företag kan distribuera stora språkmodeller (LLM) som Granite-familjen med avancerade anpassningsverktyg som InstructLab.
Dessa integrationer understryker acceleratorernas förmåga att hantera datorintensiva arbetsbelastningar med större flexibilitet, vilket gör det möjligt för företag att prioritera prestanda, kostnadseffektivitet och skalbarhet i sina AI-distributioner.
Philip Guido, Executive Vice President och Chief Commercial Officer på AMD, betonade vikten av prestanda och flexibilitet vid bearbetning av datorintensiva arbetsbelastningar, särskilt när företag använder större AI-modeller. Han noterade att AMD Instinct-acceleratorer, parade med AMD ROCm-programvara, erbjuder omfattande ekosystemstöd för plattformar som IBM watsonx AI och Red Hat OpenShift AI, vilket gör det möjligt för kunder att exekvera och skala GenAI-inferencing utan att kompromissa med effektivitet eller kostnad.
Alan Peacock, General Manager för IBM Cloud, upprepade dessa känslor och betonade AMD och IBM:s gemensamma vision att föra AI-lösningar till företag. Han konstaterade att utnyttjande av AMD-acceleratorer på IBM Cloud ger företagskunder skalbara, kostnadseffektiva alternativ för att uppfylla sina AI-mål, uppbackade av IBM:s engagemang för säkerhet, efterlevnad och resultatdrivna lösningar.
Samarbete ger förbättrad säkerhet och efterlevnad
Samarbetet utnyttjar IBM Clouds välkända säkerhets- och efterlevnadskapacitet, vilket säkerställer att företag, inklusive de i hårt reglerade industrier, med tillförsikt kan använda AI-infrastruktur som drivs av AMD-acceleratorer. Detta engagemang för säkerhet är en integrerad del av IBM och AMD:s strategi att stödja företags-AI-antagande i stor skala.
Med detta samarbete förser IBM och AMD företag med en banbrytande AI-infrastruktur som balanserar prestanda, skalbarhet och effektivitet. Tillägget av AMD Instinct MI300X-acceleratorer till IBM Cloud är redo att möta de växande kraven på företags AI-arbetsbelastningar, vilket ger organisationer möjlighet att låsa upp nya möjligheter i AI- och HPC-applikationer.
Tillgänglighet
IBMs molntjänster med AMD Instinct MI300X-acceleratorer förväntas vara allmänt tillgängliga under första halvåret 2025, vilket ytterligare utökar IBM:s högpresterande AI- och HPC-lösningsportfölj.
Amazon