Jedním z méně známých produktů, na kterém Mellanox pracoval před akvizicí společností NVIDIA, byla datová procesorová jednotka (DPU) s názvem BlueField. Prezentace před šesti lety je podobná té dnešní a poskytuje úložištím (a nyní i akcelerátorům) přímý přístup k síti bez tradiční architektury x86. Koneckonců, CPU se lépe využívají pro aplikace než pro správu jízdních pruhů PCIe. Zavádění BlueFieldu je však velmi pomalé; dnes existuje jen hrstka komerčních podniků, které využívají DPU. NVIDIA má nový impuls, který to pomůže změnit.
Proč vůbec DPU?
Kouzlo DPU je fascinující, a proto NVIDIA do jeho úspěchu silně investuje. Ve srovnání s tradičnějšími vysokorychlostními ethernetovými síťovými kartami, které většina zná a miluje, mají DPU jednoduše větší výpočetní výkon, takže vypadají spíše jako minipočítače než jako zařízení pro přesun dat. Abychom byli spravedliví, v kontextu úložiště je hlavním cílem DPU rychlý přesun dat. Jenže nyní lze tuto akci provádět v JBOF, bez nutnosti x86.
NVIDIA DPU v datovém uzlu VAST
Toto jsme nedávno viděli v několika případech, jeden s využitím produktu NVIDIA a druhý s vlastním DPU. Společnost VAST Data využívá NVIDIA DPU ve svých datových uzlech , což jsou nyní extrémně husté 1U boxy, které mohou sdílet 675 TB nezpracované flash paměti. Existují však alternativní cesty; Fungible má plán na disagregaci s využitím vlastního DPU. Měli jsme jejich úložné pole v laboratoři a nedávno také oznámili úsilí o GPU.
Zaměnitelné úložné pole – DPU uvnitř
Pokud vám celá tato konverzace o DPU zní ohromující, je těžké vám to vyčítat. Už dlouho nedošlo k zásadnímu posunu ve způsobu, jakým jsou data spravována a přesouvána. S NVIDIA máme podcast o DPU z pohledu úložišť, který je skvělým úvodem do dění na trhu.
DPU jsou těžké
I po šesti a více letech práce jsme viděli pouze dva příklady dobře fungujících DPU v praxi a můžeme jmenovat pravděpodobně méně než hrstku společností, které se vůbec potýkaly s laboratorní validací. Proč je to tak? Z toho, co nám říkají dodavatelé systémů, je opravdu obtížné využít BlueField. Je třeba vykonat obrovské množství softwarové práce a dosud karty nejsou jednoduchým produktem typu „drop-and-go“, takže jejich zvedání je mnohem těžší. Když k tomu přidáte skutečnost, že tradiční společnosti zabývající se ukládáním dat se zdráhají přijmout špičkové technologie v kombinaci s tím, že každé DPU vyžaduje jiný přístup k kódování, máme malé využití DPU.
NVIDIA si to samozřejmě uvědomuje a zoufale potřebuje rychlejší zařízení pro přesun dat do svých GPU. Abychom byli spravedliví, zákazníci to také chtějí, zejména v oblasti HPC úloh, kde je udržení drahých investic do GPU v provozu na plný úvazek cenovým cílem. NVIDIA se proto včera snažila zmírnit tento problém s přijetím.
Společnost NVIDIA se stala zakládajícím členem projektu Open Programmable Infrastructure (OPI) nadace Linux Foundation. V podstatě NVIDIA zpřístupnila svá síťová softwarová API DOCA široce. To znamená, že rozsáhlá integrační práce pro zprovoznění na DPU by nyní měla být pravděpodobně rychlejší.
„Projekt OPI si klade za cíl vytvořit komunitně řízený, standardizovaný a otevřený ekosystém pro urychlení síťových a dalších úloh infrastruktury datových center pomocí DPU,“ uvádí se v blogovém příspěvku společnosti NVIDIA. To je samozřejmě dobrá věc. Organizace a dodavatelé systémů, kteří dříve považovali zeď DPU za příliš vysokou na to, aby ji přeskočili, by nyní měli mít mnohem snazší cestu k přijetí DPU.
NVIDIA dále sdělila, co hodlá nabídnout;
Co bude dál s DPU?
Na základě toho, co jsme viděli z projektů VAST a Fungible, je svět DPU velmi reálný a připravený mít masivní dopad na datová centra a cloud. Jeho přijetí bylo náročné, protože integrace softwaru je obtížná. Hardware navíc není okamžitou náhradou za síťové karty. Ne, že by to tak bylo, ale není to jako přechod z 25GbE na 200GbE výměnou síťových karet. Snaha o integraci DPU není ani zdaleka triviální.
NVIDIA DPU
Iniciativy, jako je tato, by měly tomuto odvětví pomoci, i když pouze na křemíku NVIDIA. DPU nabízejí obrovský potenciál, pokud jde o zrychlení, zabezpečení a v konečném důsledku i zefektivnění infrastruktury. Vzhledem k tomu, že téměř každá velká organizace pracuje na zelených iniciativách, je datové centrum dobrým místem pro zavádění moderních infrastruktur, které nemají stejné závislosti jako starší stack.
Doufáme, že tento přechod k open source řešení problému s DPU, protože to, co je s touto technologií možné, je docela pozoruhodné.
Amazon