Řada AMD Instinct MI300 představuje nový přístup k architektuře akcelerátorů pro umělou inteligenci a kombinuje pokročilé technologie pro podporu pokroku ve vysoce výkonných výpočtech a umělé inteligenci. Díky svému sofistikovanému designu slibuje řada MI300 změnu hranic výpočetního výkonu a efektivity.
Přehled řady MI300
Je zde mnoho věcí k probrání a rozdíly mezi nimi jsou jemné, ale důležité.
| Specifikace | MI300x | MI300a |
|---|---|---|
| CPU jádra | 12 chipletů jako jedno zařízení • Čtyři IOD a osm XCD • Infinity Fabric AP a 3D balení |
13 chipletů jako jeden APU • 8c 16t x86 CPU x 3 CCD (celkem 24 jader) • Čtyři IOD, tři CCD a šest XCD • Infinity Fabric AP a 3D balení |
| Mezipaměť (L3) | 32 MB mezipaměti L3 sdílené osmi jádry | Pouze L1 a L2 |
| Kapacita HBM3 | 196GB | 128GB |
| Nekonečná mezipaměť | • 256 MB při špičkové šířce pásma 17 TB/s • Zesílení šířky pásma XCD • Snížení výkonu HBM • Koherence mezipaměti Multi-XCD a CCD • Prefetcher pro latenci paměti CPU |
• 256 MB při špičkové šířce pásma 17 TB/s • Zesílení šířky pásma XCD • Snížení výkonu HBM • Koherence mezipaměti Multi-XCD |
| Sjednocená architektura | N / A | Sjednocený HBM a nekonečná mezipaměť • Sdílení dat CCD a XCD • Snížený pohyb dat • Zjednodušené programování |
Komplexní čip (CCD) procesoru Zen 4 a vylepšení
Srdcem APU MI300A je komplexní čip CPU (CCD) „Zen 4“ s osmi vícevláknovými jádry AMD „Zen 4“ x86, z nichž každé se pyšní 1 MB mezipaměti L2 a 32 MB sdílené mezipaměti L3. Tato robustní architektura podporuje simultánní multithreading (SMT) a zahrnuje základní aktualizace ISA, včetně BFLOAT16, VNNI a AVX-512, s 256b datovou cestou. Paměťový systém je stejně působivý s 48b/48b virtuální/fyzickou adresovatelností, což zajišťuje rozsáhlou podporu paměti.
Výpočetní jednotka a paměťový systém CDNA 3
Výpočetní jednotka CDNA 3 v řadě MI300 představuje významná vylepšení. Každý čip Accelerator Complex Die (XCD) obsahuje 38 výpočetních jednotek CDNA 3, které jsou podporovány 4 MB sdílenou mezipamětí L2 a optimalizovanou mezipamětí L1 pro bajty/FLOP. Tyto jednotky podporují řadu numerických formátů, jako jsou TF32 a FP8, a splňují standardy OCP FP8. Paměťový systém je navržen tak, aby maximalizoval efektivitu sdílení dat a snižoval latenci díky inovativnímu rozhraní Infinity Cache a Infinity Fabric Interface od společnosti AMD.
3.5D hybridní vázání: Skok v integraci
Klíčovým prvkem rodiny MI300 je 3.5D hybridní pouzdro, které výrazně zvyšuje výpočetní výkon a HBM (High Bandwidth Memory) v rámci jednoho pouzdra. Tato metoda pouzdra nabízí husté a energeticky úsporné propojení chipletů, což zvyšuje celkovou efektivitu systému. Řada MI300 využívá modulární konstrukční přístup, který umožňuje flexibilní konfigurace a škálovatelnost.
Pokročilá správa napájení a tepelný design
Systém správy napájení řady MI300 je přizpůsoben pro zvládání náročných výpočetních úloh s důrazem na energetickou účinnost a odvod tepla. Unikátní tepelná architektura podporuje TDP (Thermal Design Power) přesahující 550 W, což zajišťuje spolehlivý výkon i v náročných podmínkách. Systém napájení je důmyslně navržen tak, aby vyhovoval různým stohovaným čipům a orientacím, a zajistil tak přesné zarovnání a účinnost.
Výkon AMD MI300
Společnost AMD uvedla na trh zajímavý produkt se svou platformou Instinct MI300X a prezentuje ji jako silného konkurenta těžko dostupnému procesoru Nvidia H100 HGX. Platforma MI300X je dodávána s 1.5 TB paměti HBM3, což výrazně převyšuje 640GB paměťovou kapacitu H100 HGX, což je něco, co bude každý vývojář rád. Pokud jde o hrubý výpočetní výkon, AMD je na špici s výkonem FP16/BF16 přibližně 10.4 petaFLOPS, což je přibližně 1.3krát více než u H100 HGX, což slibuje zvýšenou efektivitu pro složité výpočty.
Pokud jde o další klíčové specifikace, obě platformy se blíží paritě, shodují se v celkové obousměrné šířce pásma a možnostech síťového rozhraní, přičemž každá z nich poskytuje až 400 GbE a udržuje si paritu s rozhraními PCIe Gen 5 na úrovni 128 GB/s. Souboj mezi AMD a NVIDIA ukazuje bezprecedentně rychlé inovace v sektoru HPC/AI, protože výrobci neustále vydávají nové technologie, aby uspokojili rostoucí poptávku po větší paměti a rychlejším výpočetním výkonu.
Závěrečné myšlenky
Řada AMD Instinct MI300 s pokročilou modulární a čipovou architekturou, výkonnými jádry CPU a GPU a inovativním pouzdrem a správou napájení má co nabídnout v oblasti vysoce výkonných výpočtů a umělé inteligence. Její design odráží promyšlenou integraci výkonu, výkonu a efektivity a nastavuje nová měřítka pro budoucí výpočetní technologie.
Vzhledem k tomu, že svět výpočetní techniky dychtivě očekává plné nasazení řady MI300, bude zajímavé sledovat, zda společnost AMD dokáže držet krok s dodávkami a technologickým pokrokem a zároveň neustále prosazovat inovace v oblasti HPC a umělé inteligence. Společnost AMD nabízí s řadou MI300 přesvědčivé a srovnatelné řešení.
Amazon