StorageReview.com

AMD Helios-rack körs på Meta, med en anpassad Instinct-grafikkort och en insats på 1 miljard dollar att följa

AI  ◇  Företag

AMD säger att de första AMD Helios rackskala-systemen är installerade och under testning hos Meta, med en bredare implementering att följa, och att de två företagen har anpassat produktplaner kring Metas arbetsbelastningar över EPYC-processorer, Instinct-GPU:er, Pensando-nätverk och ROCm. Samma tillkännagivande sätter EPYC bakom Metas personliga AI-agent Muse, lägger till Day-0 AMD-stöd för Muse Spark Open- och Muse Glimmer-modellerna och åtar sig AMD att investera 1 miljard dollar i Metas aktieemission.

AMD Helios AI-rackrendering som visar en rad Helios-rack med AMD Helios-märket på gaveldörren

”AMD har varit en viktig partner i att bygga upp den datorkraft som våra frontlinjemodeller använder”, säger Mark Zuckerberg, grundare och VD för Meta. ”Vi gör stora investeringar i den datorkraft som gör det möjligt för oss att ge personlig superintelligens till alla, och AMD spelar en viktig roll i det.” Lisa Su, ordförande och VD för AMD, säger: ”Med Helios nu på Meta tar vi det partnerskapet till en ny skala i superintelligenseran.”

Rackskalig Helios-arkitektur och utrullning av företags-CPU

AMD anger inget rackantal eller plats för Helios-installationen och inget datum för den bredare driftsättningen bortom "den närmaste framtiden". På CPU-sidan har Meta driftsatt miljontals EPYC-processorer över flera generationer och är en ledande kund för 6:e ​​generationens EPYC , som stöder de dedikerade datormiljöerna bakom Muse. Företagen samarbetar också kring framtida EPYC-generationer, inklusive den del som AMD kallar "Verano".

Anpassade Instinct-acceleratorer och programvaruoptimering

Meta kör AMD Instinct GPU:er i produktion för tränings-, ranknings- och rekommendationsmotorer. Det som skiljer detta från ett volymköp är det anpassade kiselet: Meta var en tidig definitionskund för Instinct MI450-arkitekturen och kommer att driftsätta en anpassad Instinct GPU som är optimerad för dess arbetsbelastningar. AMD säger att samarbetet formar framtida plattformar, inklusive Instinct MI500-serien och nästa generations rackskalasystem.

Rendering av AMD Instinct GPU-beräkningsfack från AMD Helios-racket med vätskekylningsledningar över acceleratorns kylplattor

Programvaruarbetet går via PyTorch så att ROCm-stöd finns på plats när en utvecklare hämtar ramverket. AMD och Meta har optimerat rekommendationsmodellträning på Instinct MI350X GPU:er och bidrar med förbättringarna tillbaka till PyTorch, Triton och ROCm. På modellsidan levererade AMD Day-0-stöd för Muse Spark Open på Instinct GPU:er, och för Muse Glimmer på Ryzen AI-datorer och Radeon GPU:er, vilket placerar den modellen på klienthårdvara från början.

AMD Helios

Engagera dig med StorageReview

Nyhetsbrev | YouTube | Podcast iTunes / Spotify | Instagram | Twitter | TikTok | RSS-flöde

Harold Fritts

Jag har varit i teknikbranschen sedan IBM skapade Selectric. Min bakgrund är dock att skriva. Så jag bestämde mig för att lämna pre-sales-branschen och återvända till mina rötter, skriva lite men fortfarande vara involverad i teknik.