AMD informuje, że pierwsze systemy AMD Helios w obudowie rackscale zostały zainstalowane i są testowane w Meta, a następnie nastąpi szersze wdrożenie. Obie firmy uzgodniły plany rozwoju produktów, uwzględniając obciążenia Meta w zakresie procesorów EPYC, układów GPU Instinct, rozwiązań sieciowych Pensando i ROCm. To samo ogłoszenie oznacza, że EPYC będzie wspierał osobistego agenta AI Muse firmy Meta, dodaje obsługę AMD w trybie Day-0 dla modeli Muse Spark Open i Muse Glimmer oraz zobowiązuje AMD do inwestycji w wysokości 1 miliarda dolarów w ofertę akcji Meta.
„AMD było kluczowym partnerem w budowaniu zasobów obliczeniowych, na których działają nasze pionierskie modele” – powiedział Mark Zuckerberg, założyciel i dyrektor generalny Meta. „Dokonujemy dużych inwestycji w moc obliczeniową, która umożliwi nam udostępnienie każdemu osobistej superinteligencji, a AMD odgrywa w tym ważną rolę”. Lisa Su, prezes i dyrektor generalna AMD, powiedziała: „Dzięki Heliosowi działającemu teraz w Meta, partnerstwo to osiąga nową skalę w erze superinteligencji”.
Architektura Helios w skali rackowej i wdrażanie procesorów korporacyjnych
AMD nie podaje liczby szaf ani lokalizacji instalacji procesorów Helios, ani daty szerszego wdrożenia wykraczającej poza „najbliższą przyszłość”. Jeśli chodzi o procesory, Meta wdrożyła miliony procesorów EPYC w różnych generacjach i jest głównym klientem procesorów EPYC 6. generacji , które obsługują dedykowane środowiska obliczeniowe platformy Muse. Firmy współpracują również nad kolejnymi generacjami procesorów EPYC, w tym nad częścią AMD nazywaną „Verano”.
Niestandardowe akceleratory Instinct i optymalizacja oprogramowania
Meta wykorzystuje procesory graficzne AMD Instinct w produkcji do trenowania, klasyfikowania i rekomendacji. Niestandardowy układ scalony to element, który odróżnia ten produkt od zakupu hurtowego: Meta była jednym z pierwszych klientów, którzy zdecydowali się na architekturę Instinct MI450, i wdroży niestandardowy procesor graficzny Instinct zoptymalizowany pod kątem swoich obciążeń. AMD twierdzi, że współpraca ta ma wpływ na przyszłe platformy, w tym serię Instinct MI500 i systemy rackowe nowej generacji.
Oprogramowanie działa w środowisku PyTorch, dzięki czemu obsługa ROCm jest dostępna, gdy programista pobiera framework. AMD i Meta zoptymalizowały trenowanie modelu rekomendacji na kartach graficznych Instinct MI350X i wnoszą te ulepszenia z powrotem do PyTorch, Triton i ROCm. Po stronie modelu, AMD zapewniło obsługę Muse Spark Open od samego początku na kartach graficznych Instinct oraz Muse Glimmer na komputerach z systemem Ryzen AI i kartach graficznych Radeon, co oznacza, że model ten jest od samego początku dostępny na sprzęcie klienckim.
Amazon