AMD meldt dat de eerste AMD Helios rackscale-systemen zijn geïnstalleerd en worden getest bij Meta, waarna een bredere uitrol zal volgen. De twee bedrijven hebben hun productroadmaps afgestemd op de workloads van Meta, met gebruikmaking van EPYC CPU's, Instinct GPU's, Pensando-netwerken en ROCm. In dezelfde aankondiging wordt EPYC ingezet voor Meta's Muse persoonlijke AI-agent, wordt AMD-ondersteuning vanaf dag één toegevoegd voor de Muse Spark Open- en Muse Glimmer-modellen, en verbindt AMD zich tot een investering van 1 miljard dollar in de aandelenemissie van Meta.
"AMD is een belangrijke partner geweest bij het ontwikkelen van de rekenkracht die onze baanbrekende modellen mogelijk maakt", aldus Mark Zuckerberg, oprichter en CEO van Meta. "We investeren fors in de rekenkracht die ons in staat zal stellen persoonlijke superintelligentie voor iedereen beschikbaar te maken, en AMD speelt daarin een belangrijke rol." Lisa Su, voorzitter en CEO van AMD, voegde eraan toe: "Nu Helios bij Meta draait, tillen we die samenwerking naar een nieuw niveau in het tijdperk van superintelligentie."
Rackscale Helios-architectuur en uitrol van Enterprise CPU's
AMD geeft geen exacte aantallen of locaties voor de Helios-installatie en geen datum voor de bredere uitrol, behalve "in de nabije toekomst". Wat de CPU's betreft, heeft Meta miljoenen EPYC-processors van verschillende generaties ingezet en is het een belangrijke klant voor de 6e generatie EPYC , die de speciale computeromgevingen achter Muse ondersteunt. De bedrijven werken ook samen aan toekomstige EPYC-generaties, waaronder het onderdeel dat AMD "Verano" noemt.
Aangepaste Instinct-acceleratoren en softwareoptimalisatie
Meta gebruikt AMD Instinct GPU's in productie voor trainings-, ranking- en aanbevelingssystemen. De op maat gemaakte chip onderscheidt dit van een massale aankoop: Meta was een van de eerste klanten die de Instinct MI450-architectuur ontwikkelde en zal een aangepaste Instinct GPU inzetten die is geoptimaliseerd voor hun workloads. AMD zegt dat de samenwerking de basis vormt voor toekomstige platforms, waaronder de Instinct MI500-serie en de volgende generatie rack-scale systemen.
De software wordt via PyTorch uitgevoerd, zodat ROCm-ondersteuning beschikbaar is wanneer een ontwikkelaar het framework downloadt. AMD en Meta hebben de training van aanbevelingsmodellen geoptimaliseerd voor Instinct MI350X GPU's en dragen de verbeteringen bij aan PyTorch, Triton en ROCm. Wat de modellen betreft, heeft AMD Day-0-ondersteuning geleverd voor Muse Spark Open op Instinct GPU's en voor Muse Glimmer op Ryzen AI-pc's en Radeon GPU's, waardoor dat model vanaf het begin op clienthardware beschikbaar is.
Amazon