Společnost AMD oznámila dostupnost Pensando Pollara 400, první plně programovatelné síťové karty (NIC) pro umělou inteligenci v oboru. Toto inovativní řešení, navržené pro urychlení úloh umělé inteligence, je kompatibilní s rozvíjejícími se standardy Ultra Ethernet Consortium (UEC) a optimalizované pro zlepšení komunikace mezi grafickými procesory (GPU) v datových centrech. Síťová karta Pollara 400 pro umělou inteligenci představuje významný krok vpřed v budování škálovatelné a vysoce výkonné infrastruktury pro úlohy umělé inteligence/strojového učení, generativní umělou inteligenci a rozsáhlé jazykové modely.
S vývojem umělé inteligence čelí organizace výzvě v podobě vývoje podobných výpočetních infrastruktur, které poskytují optimální výkon a zároveň poskytují flexibilitu pro přizpůsobení se budoucím požadavkům. Klíčovým faktorem v tomto vývoji je efektivní škálování komunikačních sítí GPU v rámci uzlů. Závazek společnosti AMD zachovat možnost výběru zákazníků a snížit celkové náklady na vlastnictví (TCO) bez obětování výkonu je patrný u síťové karty Pollara 400 AI. Toto řešení umožňuje organizacím vytvářet infrastrukturu umělé inteligence připravenou na budoucnost a zároveň zachovat kompatibilitu s otevřeným ekosystémem.
Zrychlení úloh s umělou inteligencí pomocí pokročilých sítí
Maximalizace výkonu clusteru umělé inteligence je nejvyšší prioritou pro poskytovatele cloudových služeb, hyperškálovače a podniky. Mnoho organizací však vnímá síť jako úzké hrdlo, které omezuje využití GPU. Rychlost přenosu dat je sice nezbytná, ale je výhodná pouze tehdy, je-li síť optimalizována tak, aby splňovala požadavky moderních úloh umělé inteligence.
| Specifikace | Detaily |
|---|---|
| Max. Šířka pásma | 400 Gbps |
| Form Factor | Poloviční výška, poloviční délka (HHHL) |
| Rozhraní | PCIe Gen5.0 x16 |
| Ethernet rozhraní | QSFP112 (servery NRZ/PAM4) |
| Rychlosti Ethernetu | 25/50/100/200/400 Gbps |
| Konfigurace Ethernetu | Podporuje až 4 porty: 1 x 400 g 2 x 200 g 4 x 100 g 4 x 50 g 4 x 25 g |
| management | MCTP přes SMBus |
Síťová karta Pensando Pollara 400 AI řeší tyto výzvy inteligentním vyvažováním zátěže, správou přetížení, rychlým přepnutím na záložní systém a obnovou po ztrátě. Tyto funkce zajišťují plné využití síťových a výpočetních zdrojů, což umožňuje vyšší provozuschopnost, rychlejší dokončení úloh a vyšší spolehlivost ve velkém měřítku. S rostoucí složitostí a velikostí úloh s umělou inteligencí poskytuje síťová karta Pollara 400 AI nástroje nezbytné k odstranění úzkých míst a uvolnění plného potenciálu infrastruktury umělé inteligence.
Programovatelné řešení připravené na budoucnost
Síťová karta Pollara 400 s umělou inteligencí je poháněna architekturou AMD P4 a nabízí plně programovatelný hardwarový kanál s bezkonkurenční flexibilitou. Tato programovatelnost umožňuje zákazníkům přizpůsobit se novým standardům, jako jsou ty stanovené UEC, nebo si vytvářet vlastní transportní protokoly určené pro jejich specifické úlohy. Na rozdíl od tradičního hardwaru, který vyžaduje nové generace pro podporu nově vznikajících funkcí, umožňuje Pollara 400 organizacím upgradovat svou infrastrukturu umělé inteligence bez čekání na aktualizace hardwaru.
Mezi klíčové vlastnosti zařízení Pollara 400 patří podpora více transportních protokolů, jako jsou RoCEv2, UEC RDMA a další ethernetové protokoly, což zajišťuje kompatibilitu s různými pracovními zátěžemi. Pokročilé funkce, jako je inteligentní rozprašování paketů, zpracování paketů mimo pořadí a selektivní opakovaný přenos, optimalizují využití šířky pásma a snižují latenci, což je klíčové pro trénování a nasazení velkých modelů umělé inteligence. Řízení přetížení s ohledem na cestu a rychlá detekce chyb zajišťují výkon blízký rychlosti kabelu a minimalizují dobu nečinnosti GPU, a to i během přechodného přetížení nebo selhání sítě.
Výhoda otevřeného ekosystému
Otevřený ekosystémový přístup společnosti AMD zajišťuje kompatibilitu bez ohledu na dodavatele, což organizacím umožňuje vytvořit infrastrukturu umělé inteligence, která splňuje současné požadavky a zároveň je škálovatelná a programovatelná pro budoucí potřeby. Tato strategie snižuje kapitálové výdaje (CapEx) tím, že odstraňuje nutnost nákladných, velkých bufferových přepínacích struktur založených na buňkách, a to vše při zajištění vysokého výkonu.
Síťová karta Pensando Pollara 400 AI NIC již byla ověřena v některých z největších škálovatelných datových center na světě. Poskytovatelé cloudových služeb (CSP) si toto řešení vybrali pro jeho jedinečnou kombinaci programovatelnosti, vysoké šířky pásma, nízké latence a rozsáhlé sady funkcí. Umožněním rozšiřitelné infrastruktury v rámci otevřeného ekosystému pomáhá společnost AMD organizacím zajistit budoucnost jejich prostředí s umělou inteligencí a zároveň poskytuje okamžité výhody ve výkonu.
Amazon