Podczas swojego wystąpienia na targach Computex, prezes i dyrektor generalna AMD, dr Lisa Su, zaprezentowała znaczące postępy w rodzinie akceleratorów AMD Instinct. Firma ogłosiła rozszerzony, wieloletni plan rozwoju akceleratorów, obiecując coroczną poprawę wydajności sztucznej inteligencji i możliwości pamięci. To początek nowej ery innowacji w zakresie sztucznej inteligencji i obciążeń centrów danych.
Przedstawiamy akcelerator AMD Instinct MI325X
Zaktualizowany plan działania rozpoczyna się od wprowadzenia na rynek nowego akceleratora AMD Instinct MI325X, którego dostępność planowana jest na czwarty kwartał 2024 roku. Akcelerator ten oferuje 288 GB pamięci HBM3E i przepustowość pamięci 6 terabajtów na sekundę. Wykorzystuje on architekturę serwerową Universal Baseboard, zapewniającą kompatybilność z serią AMD Instinct MI300.
MI325X oferuje wiodącą w branży pojemność pamięci i przepustowość, przewyższając konkurencję odpowiednio 2x i 1.3x. Oferuje 1.3x lepszą wydajność obliczeniową niż konkurenci, co czyni go potężnym narzędziem do zadań związanych ze sztuczną inteligencją.
Przyszłe generacje: seria MI350 i MI400
Po MI325X, w 2025 roku spodziewana jest premiera serii AMD Instinct MI350, opartej na nowej architekturze AMD CDNA 4. Seria ta przyniesie znaczący skok w wydajności wnioskowania AI, a prognozy wskazują na nawet 35-krotny wzrost w porównaniu z serią AMD Instinct MI300. Akcelerator MI350X zachowa konstrukcję Universal Baseboard, wykorzysta zaawansowaną technologię 3 nm, będzie obsługiwał typy danych AI FP4 i FP6 oraz będzie wyposażony w pamięć HBM3E o pojemności do 288 GB.
Wybiegając w przyszłość, seria AMD Instinct MI400, oparta na architekturze AMD CDNA „Next”, ma zostać wydana w 2026 roku. Ta seria wprowadzi najnowsze funkcje i możliwości mające na celu zwiększenie wydajności i efektywności zadań związanych z trenowaniem i wnioskowaniem sztucznej inteligencji na dużą skalę.
Wdrożenie i wpływ akceleratorów AMD Instinct MI300X
Akceleratory AMD Instinct MI300X cieszą się dużym zainteresowaniem głównych partnerów i klientów, takich jak Microsoft Azure, Meta, Dell Technologies, HPE, Lenovo i inni. Brad McCredie, wiceprezes ds. akcelerowanych obliczeń w centrach danych w AMD, podkreślił wyjątkową wydajność i wartość akceleratorów MI300X, zwracając uwagę na ich znaczącą rolę w napędzaniu innowacji w dziedzinie sztucznej inteligencji. Stwierdził: „Dzięki naszej corocznej aktualizacji produktów, nieustannie podążamy za tempem innowacji, zapewniając wiodące możliwości i wydajność w branży sztucznej inteligencji, a nasi klienci oczekują, że będą napędzać kolejną ewolucję uczenia i wnioskowania w dziedzinie sztucznej inteligencji w centrach danych”.
Postępy w ekosystemie oprogramowania AMD AI
Otwarty stos oprogramowania AMD ROCm 6 stale się rozwija, umożliwiając akceleratorom AMD Instinct MI300X zapewnianie imponującej wydajności w popularnych modelach LLM (ang. Large Language Models). Na serwerach z ośmioma akceleratorami AMD Instinct MI300X i ROCm 6 z systemem Meta Llama-3 70B klienci mogą osiągnąć 1.3-krotnie lepszą wydajność wnioskowania i generowania tokenów w porównaniu z konkurencją.
Dodatkowo pojedynczy akcelerator AMD Instinct MI300X z ROCm 6 może przewyższyć konkurencję 1.2-krotnie pod względem wydajności wnioskowania i przepustowości generowania tokenów na komputerze Mistral-7B.
Współpraca AMD z Hugging Face, największym repozytorium modeli AI, dodatkowo podkreśla solidność ekosystemu. Hugging Face testuje 700 000 swoich najpopularniejszych modeli każdej nocy, aby zapewnić bezproblemową funkcjonalność na akceleratorach AMD Instinct MI300X. AMD kontynuuje również prace nad popularnymi frameworkami AI, takimi jak PyTorch, TensorFlow i JAX, zapewniając szeroką kompatybilność i lepszą wydajność.
Najważniejsze elementy planu działania AMD
Podczas przemówienia firma AMD zaprezentowała zaktualizowany, roczny harmonogram rozwoju akceleratorów AMD Instinct, aby sprostać rosnącemu zapotrzebowaniu na obliczenia w dziedzinie sztucznej inteligencji. Dzięki temu akceleratory AMD Instinct będą nadal napędzać rozwój pionierskich modeli sztucznej inteligencji nowej generacji.
- Akcelerator AMD Instinct MI325X:Akcelerator, którego premiera odbędzie się w czwartym kwartale 2024 roku, będzie wyposażony w 288 GB pamięci HBM3E, przepustowość pamięci 6 terabajtów na sekundę oraz wiodącą w branży pojemność i przepustowość pamięci. Oferuje on 1.3 razy lepszą wydajność obliczeniową w porównaniu z konkurencją.
- Seria AMD Instinct MI350:Akcelerator MI350X, którego premiera planowana jest na 2025 rok, będzie oparty na architekturze AMD CDNA 4 i będzie wykorzystywał zaawansowaną technologię 3 nm. Będzie obsługiwał typy danych AI FP4 i FP6 oraz będzie zawierał do 288 GB pamięci HBM3E.
- Seria AMD Instinct MI400:Ta seria, której premiera zaplanowana jest na 2026 rok, będzie wykorzystywać architekturę AMD CDNA „Next”, wprowadzając nowe funkcje i możliwości mające na celu zwiększenie wydajności szkolenia sztucznej inteligencji i wnioskowania.
Powszechne przyjęcie w przemyśle
Popyt na akceleratory AMD Instinct MI300X stale rośnie, a liczni partnerzy i klienci wykorzystują te akceleratory do obsługi wymagających zadań związanych ze sztuczną inteligencją.
- Azure firmy Microsoft:Wykorzystanie akceleratorów MI300X dla usług Azure OpenAI i nowych maszyn wirtualnych Azure ND MI300X V5.
- Dell Technologies:Integracja akceleratorów MI300X w serwerze PowerEdge XE9680 na potrzeby obciążeń AI w przedsiębiorstwach.
- Supermicro:Dostarczanie wielu rozwiązań obejmujących akceleratory AMD Instinct.
- Lenovo:Wspieramy innowacje hybrydowej sztucznej inteligencji dzięki ThinkSystem SR685a V3.
- HPE:Wykorzystanie akceleratorów MI300X w celu zwiększenia obciążeń AI w HPE Cray XD675.
Wprowadzenie przez AMD rozszerzonego planu rozwoju akceleratorów Instinct na targach Computex 2024 stanowi ważny kamień milowy w strategii firmy w zakresie sztucznej inteligencji i centrów danych. Dzięki zobowiązaniu do corocznych aktualizacji produktów, zwiększonej wydajności i szerokiemu przyjęciu w branży, akceleratory AMD Instinct mają napędzać innowacje w dziedzinie sztucznej inteligencji nowej generacji.
Amazon