Během svého hlavního projevu na veletrhu Computex představila předsedkyně představenstva a generální ředitelka společnosti AMD Dr. Lisa Su významný pokrok v řadě akcelerátorů AMD Instinct. Společnost oznámila rozšířený víceletý plán pro akcelerátory a slibuje každoroční zlepšení výkonu umělé inteligence a paměťových možností. To představuje novou éru inovací pro umělou inteligenci a pracovní zátěž datových center.
Představujeme akcelerátor AMD Instinct MI325X
Aktualizovaný plán začíná novým akcelerátorem AMD Instinct MI325X, který by měl být k dispozici ve 4. čtvrtletí roku 2024. Tento akcelerátor disponuje 288 GB paměti HBM3E a propustností paměti 6 terabajtů za sekundu. Využívá serverový design Universal Baseboard, což zajišťuje kompatibilitu s řadou AMD Instinct MI300.
MI325X se pyšní špičkovou paměťovou kapacitou a šířkou pásma a překonává konkurenci 2x, respektive 1.3x. Nabízí 1.3x lepší výpočetní výkon než konkurence, což z něj činí výkonný nástroj pro úlohy s umělou inteligencí.
Budoucí generace: Řada MI350 a MI400
Po modelu MI325X se očekává, že v roce 2025 bude uvedena na trh řada AMD Instinct MI350, poháněná novou architekturou AMD CDNA 4. Tato řada přinese podstatný skok ve výkonu inference umělé inteligence, přičemž projekce naznačují až 35násobné zvýšení ve srovnání s řadou AMD Instinct MI300. Akcelerátor MI350X si zachová design Universal Baseboard, využije pokročilou 3nm procesní technologii, bude podporovat datové typy umělé inteligence FP4 a FP6 a bude disponovat až 288 GB paměti HBM3E.
S výhledem do budoucna je v roce 2026 naplánováno vydání řady AMD Instinct MI400, poháněné architekturou AMD CDNA „Next“. Tato řada představí nejnovější funkce a možnosti určené ke zvýšení výkonu a efektivity pro rozsáhlé úlohy trénování a inference umělé inteligence.
Přijetí a dopad akcelerátorů AMD Instinct MI300X
Akcelerátory AMD Instinct MI300X se setkaly s velkým ohlasem u významných partnerů a zákazníků, včetně Microsoft Azure, Meta, Dell Technologies, HPE, Lenovo a dalších. Brad McCredie, viceprezident pro Data Center Accelerated Compute ve společnosti AMD, zdůraznil výjimečný výkon a hodnotu akcelerátorů MI300X a poznamenal jejich významnou roli v podpoře inovací v oblasti umělé inteligence. Uvedl: „S naší aktualizovanou každoroční kadencí produktů jsme neúnavní v tempu inovací a poskytujeme vedoucí schopnosti a výkon, které odvětví umělé inteligence a naši zákazníci očekávají jako hnací sílu dalšího vývoje školení a inference v oblasti umělé inteligence v datových centrech.“
Pokroky v ekosystému softwaru AMD AI
Otevřený softwarový stack AMD ROCm 6 se neustále vyvíjí, což umožňuje akcelerátorům AMD Instinct MI300X poskytovat působivý výkon pro populární modely velkých jazyků programování (LLM). Na serverech s osmi akcelerátory AMD Instinct MI300X a ROCm 6 s procesorem Meta Llama-3 70B mohou zákazníci dosáhnout 1.3krát lepšího výkonu inference a generování tokenů ve srovnání s konkurencí.
Navíc jeden akcelerátor AMD Instinct MI300X s ROCm 6 dokáže na Mistral-7B překonat konkurenci 1.2krát v inferenčním výkonu a propustnosti generování tokenů.
Spolupráce společnosti AMD s Hugging Face, největším repozitářem modelů umělé inteligence, dále podtrhuje robustnost ekosystému. Hugging Face každou noc testuje 700 000 svých nejoblíbenějších modelů, aby zajistila bezproblémovou funkčnost na akcelerátorech AMD Instinct MI300X. AMD také pokračuje v práci na populárních frameworkech umělé inteligence, jako jsou PyTorch, TensorFlow a JAX, čímž zajišťuje širokou kompatibilitu a vylepšený výkon.
Klíčové body plánu AMD
Během úvodního projevu společnost AMD představila aktualizovaný roční plán vývoje akcelerátorů AMD Instinct, aby uspokojila rostoucí poptávku po výpočetních technologiích s využitím umělé inteligence. To zajišťuje, že akcelerátory AMD Instinct budou i nadále hnací silou vývoje modelů umělé inteligence nové generace.
- Akcelerátor AMD Instinct MI325XTento akcelerátor, který bude uveden na trh ve 4. čtvrtletí roku 2024, bude disponovat 288 GB paměti HBM3E, šířkou pásma paměti 6 terabajtů za sekundu a špičkovou kapacitou a šířkou pásma paměti. Ve srovnání s konkurencí nabízí 1.3krát lepší výpočetní výkon.
- Řada AMD Instinct MI350Akcelerátor MI350X, jehož uvedení na trh se očekává v roce 2025, bude založen na architektuře AMD CDNA 4 a bude využívat pokročilou 3nm procesní technologii. Bude podporovat datové typy umělé inteligence FP4 a FP6 a bude obsahovat až 288 GB paměti HBM3E.
- Řada AMD Instinct MI400Tato řada, plánovaná na rok 2026, bude využívat architekturu AMD CDNA „Next“ a představí nové funkce a možnosti pro zlepšení výkonu trénování a inference umělé inteligence.
Široké přijetí v průmyslu
Poptávka po akcelerátorech AMD Instinct MI300X neustále roste a řada partnerů a zákazníků tyto akcelerátory využívá pro své náročné úlohy umělé inteligence.
- Microsoft AzureVyužití akcelerátorů MI300X pro služby Azure OpenAI a nové virtuální počítače Azure ND MI300X V5.
- Technologie DellIntegrace akcelerátorů MI300X do serveru PowerEdge XE9680 pro podnikové úlohy umělé inteligence.
- SupermicroPoskytování řady řešení zahrnujících akcelerátory AMD Instinct.
- LenovoPohánějte inovace hybridní umělé inteligence s ThinkSystem SR685a V3.
- HPEPoužití akcelerátorů MI300X pro zvýšení pracovních zátěží umělé inteligence v HPE Cray XD675.
Představení rozšířeného plánu akcelerátoru Instinct společností AMD na veletrhu Computex 2024 představuje významný milník ve strategii společnosti v oblasti umělé inteligence a datových center. Díky závazku k každoročním aktualizacím produktů, vyššímu výkonu a širokému přijetí v průmyslu jsou akcelerátory AMD Instinct připraveny pohánět novou generaci inovací v oblasti umělé inteligence.
Amazon