Under sitt huvudtal i Computex presenterade AMD:s ordförande och VD, Dr. Lisa Su, betydande framsteg inom AMD Instinct-acceleratorfamiljen. Företaget tillkännagav en utökad flerårig färdplan för acceleratorerna, som lovar årliga förbättringar av AI-prestanda och minneskapacitet. Detta markerar en ny era av innovation för AI- och datacenterarbetsbelastningar.
Under sitt huvudtal i Computex presenterade AMD:s ordförande och VD, Dr. Lisa Su, betydande framsteg inom AMD Instinct-acceleratorfamiljen. Företaget tillkännagav en utökad flerårig färdplan för acceleratorerna, som lovar årliga förbättringar av AI-prestanda och minneskapacitet. Detta markerar en ny era av innovation för AI- och datacenterarbetsbelastningar.
Vi presenterar AMD Instinct MI325X Accelerator
Den uppdaterade färdplanen startar med den nya AMD Instinct MI325X-acceleratorn, som kommer att finnas tillgänglig under fjärde kvartalet 4. Denna accelerator har 2024 GB HBM288E-minne och en minnesbandbredd på 3 terabyte per sekund. Den använder Universal Baseboard-serverdesignen, vilket säkerställer kompatibilitet med AMD Instinct MI6-serien.
MI325X har branschledande minneskapacitet och bandbredd, och överträffar konkurrenterna med 2x respektive 1.3x. Den erbjuder 1.3 gånger bättre beräkningsprestanda än konkurrenterna, vilket gör den till ett kraftfullt verktyg för AI-arbetsbelastningar.
Framtida generationer: MI350- och MI400-serien
Efter MI325X förväntas AMD Instinct MI350-serien, som drivs av den nya AMD CDNA 4-arkitekturen, lanseras 2025. Denna serie kommer att ge ett betydande steg i AI-inferensprestanda, med projektioner som indikerar en ökning på upp till 35 gånger jämfört med AMD Instinct MI300-serien. MI350X-acceleratorn kommer att behålla Universal Baseboard-designen, använda avancerad 3nm-processteknik, stödja FP4 och FP6 AI-datatyper och ha upp till 288 GB HBM3E-minne.
Om man ser längre fram, är AMD Instinct MI400-serien, som drivs av AMD CDNA "Next"-arkitekturen, planerad att släppas 2026. Denna serie kommer att introducera de senaste funktionerna och kapaciteterna utformade för att förbättra prestanda och effektivitet för storskalig AI-träning och slutledning uppgifter.
Adoption och inverkan av AMD Instinct MI300X-acceleratorer
AMD Instinct MI300X-acceleratorerna har fått en stark användning från stora partners och kunder, inklusive Microsoft Azure, Meta, Dell Technologies, HPE, Lenovo och andra. Brad McCredie, Corporate Vice President för Data Center Accelerated Compute på AMD, lyfte fram den exceptionella prestanda och värdeförslag hos MI300X-acceleratorerna, och noterade deras betydelsefulla roll för att driva AI-innovation. Han sa: "Med vår uppdaterade årliga kadens av produkter är vi obevekliga i vår innovationstakt, och tillhandahåller ledarskapskapacitet och prestanda för AI-industrin, och våra kunder förväntar sig att driva nästa utveckling av datacenter AI-utbildning och slutledning."
Framsteg inom AMD AI Software Ecosystem
AMD ROCm 6 öppna mjukvarustacken fortsätter att mogna, vilket gör att AMD Instinct MI300X-acceleratorer kan leverera imponerande prestanda för populära stora språkmodeller (LLM). På servrar som använder åtta AMD Instinct MI300X-acceleratorer och ROCm 6 som kör Meta Llama-3 70B, kan kunder uppnå 1.3 gånger bättre slutledningsprestanda och tokengenerering jämfört med konkurrenterna.
Dessutom kan en enda AMD Instinct MI300X-accelerator med ROCm 6 överträffa konkurrenterna med 1.2 gånger vad gäller slutledningsprestanda och tokengenerering på Mistral-7B.
AMD:s samarbete med Hugging Face, det största arkivet för AI-modeller, understryker ytterligare ekosystemets robusthet. Hugging Face testar 700,000 300 av sina mest populära modeller varje natt för att säkerställa sömlös funktionalitet på AMD Instinct MIXNUMXX-acceleratorer. AMD fortsätter också sitt uppströmsarbete med populära AI-ramverk som PyTorch, TensorFlow och JAX, vilket säkerställer bred kompatibilitet och förbättrad prestanda.
Viktiga AMD Roadmap Höjdpunkter
Under keynoten presenterade AMD en uppdaterad årlig kadens för AMD Instinct-acceleratorns färdplan för att möta den växande efterfrågan på AI-beräkning. Detta säkerställer att AMD Instinct-acceleratorer kommer att fortsätta att driva utvecklingen av nästa generations frontier AI-modeller.
- AMD Instinct MI325X Accelerator: Denna accelerator lanseras under fjärde kvartalet 4 och kommer att ha 2024 GB HBM288E-minne, 3 terabyte per sekund minnesbandbredd och branschledande minneskapacitet och bandbredd. Den erbjuder 6 gånger bättre beräkningsprestanda jämfört med konkurrenterna.
- AMD Instinct MI350-serien: Förväntad 2025 kommer MI350X-acceleratorn att baseras på AMD CDNA 4-arkitekturen och använda avancerad 3nm processteknik. Den kommer att stödja FP4 och FP6 AI-datatyper och inkluderar upp till 288 GB HBM3E-minne.
- AMD Instinct MI400-serien: Den här serien är planerad till 2026 och kommer att dra nytta av AMD CDNA "Next"-arkitekturen, och introducera nya funktioner och möjligheter för att förbättra AI-träning och slutledningsprestanda.
Utbredd industriadoption
Efterfrågan på AMD Instinct MI300X-acceleratorer fortsätter att växa, med många partners och kunder som utnyttjar dessa acceleratorer för sina krävande AI-arbetsbelastningar.
- Microsoft Azure: Använder MI300X-acceleratorer för Azure OpenAI-tjänster och de nya virtuella Azure ND MI300X V5-datorerna.
- Dell Technologies: Integrering av MI300X-acceleratorer i PowerEdge XE9680 för företags AI-arbetsbelastningar.
- Supermicro: Tillhandahåller flera lösningar med AMD Instinct-acceleratorer.
- lenovo: Drivs av hybrid AI-innovation med ThinkSystem SR685a V3.
- HPE: Använder MI300X-acceleratorer för att förbättra AI-arbetsbelastningen i HPE Cray XD675.
AMD:s introduktion av den utökade Instinct-acceleratorns färdplan vid Computex 2024 markerar en betydande milstolpe i företagets AI- och datacenterstrategi. Med ett engagemang för årliga produktuppdateringar, förbättrad prestanda och bred industriantagande är AMD Instinct-acceleratorer inställda på att driva nästa generations AI-innovation.
Engagera dig med StorageReview
Nyhetsbrev | Youtube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | Rssflöde
