StorageReview.com

Oracle Acceleron přidává Front-End RDMA, plugin NCCL a RCCL pro multiplanární failover a 3x vyšší výkon blokového úložiště NVMe na OCI

Enterprise  ◇  networking

Společnost Oracle na konferenci Oracle AI World v Las Vegas oznámila druhou řadu funkcí Oracle Acceleron, rok poté, co tato síťová sada poprvé zahrnovala dedikované fabric, multiplanární sítě, SmartNIC a přímé datové cesty pro infrastrukturu Oracle Cloud. Mezi novinky patří RDMA ve sdílené front-endové síti OCI, připojení blokových úložišť NVMe napříč holým železem Acceleron a tvary virtuálních strojů, které Oracle hodnotí až jako trojnásobek blokového výkonu, plugin pro kolektivní komunikaci, který přesouvá failover a vyvažování zátěže do vrstvy NCCL a RCCL, a multiplanární sítě rozšířené na front-endový provoz.

Schéma architektury multiplanární sítě OCI se SmartNIC, která připojuje server ke čtyřem nezávislým rovinám síťové struktury.

„Infrastruktura umělé inteligence může být neúprosná, pokud jde o síťové tření,“ řekl Pradeep Vincent, výkonný viceprezident pro výpočetní techniku ​​a infrastrukturu umělé inteligence ve společnosti Oracle Cloud Infrastructure. „Když tisíce akcelerátorů spolupracují, jedna přetížená nebo selhaná cesta může mít důsledky daleko za hranicemi jediného připojení. S Oracle Acceleron budujeme síť, která dokáže reagovat přesměrováním provozu, zotavením se z poruch a pomocí bezpečného škálování zákazníků.“

Front-End RDMA a nárok na 3x NVMe blokové úložiště

Front-endová síť OCI nese databázi Oracle, zákaznické výpočetní prostředky, blokové a objektové úložiště, služby SaaS a OCI, páteřní propojení, přístup k internetu a lokální konektivitu na stejném fabric, a proto RDMA historicky zůstávalo na vyhrazených back-endových clusterových sítích. Vysoce výkonná fabrická síť Oracle Acceleron umisťuje RDMA na tento sdílený front-end pro inferenci, úložiště a provoz HPC a Oracle uvádí, že podporuje všechny typy párů front a sloves, takže stávající aplikace RDMA běží beze změn. Společnost také používá front-endová propojení k propojení samostatných clusterů GPU, zatímco back-endové fabrické sítě zajišťují trénování uvnitř každého clusteru.

Úložnou polovinu tvoří rozšířené možnosti připojení blokového úložiště NVMe v nových základních procesorech Acceleron Bare Metal a VM, které podle společnosti Oracle zvyšují výkon blokového úložiště NVMe až 3x pro AI, databáze a další datově náročné úlohy. Společnost Oracle nezveřejnila základní konfiguraci, pracovní zátěž ani to, zda se jedná o propustnost, IOPS nebo latenci, a my jsme tuto informaci neprovedli ani neauditovali. Verze obsahuje standardní prohlášení společnosti Oracle o vyloučení odpovědnosti za budoucí produkty a neuvádí žádná data dostupnosti pro žádnou z nových funkcí.

Sdílení front-endu mezi RDMA a TCP představuje problém s řízením přetížení, protože transporty RDMA obvykle používají řízení založené na rychlosti a TCP používá řízení založené na okně, takže jedna smyčka může zahltit druhou. Odpověď od Oracle spočívá v Acceleron SmartNIC. Hierarchické tokenové segmenty sledují šířku pásma pro třídy RDMA a třídy bez RDMA v rámci sdíleného nadřazeného segmentu a jakmile dojde množství tokenů, síťová karta pravděpodobnostně označuje pakety s podporou ECN nebo zbytek zahazuje, což produkuje postupný signál přetížení a také odvádí incast na nejvyšší úrovni linky. Kterákoli třída si může od druhé vypůjčit nevyužitou šířku pásma.

Pro řešení přetížení uvnitř sítě Fabric používá SmartNIC funkci One-Way-Delay Congestion Control, která měří zpoždění v dopředné cestě, aby přetížená zpětná cesta nespustila falešný signál. Když zjistí zvýšené zpoždění v toku, prozkoumá tři alternativní cesty a pokud je jedna z nich lepší, přesune tok; pokud žádná není, vrátí se k označení ECN nebo tok přeruší. Společnost Oracle popisuje návrh jako vyžadující minimální podporu QoS ze strany přepínačů, přičemž na hostitelích zachovává standardní bypass jádra a CPU.

Schopnost Co Oracle říká, že dělá
Vysoce výkonná struktura Oracle Acceleron RDMA na OCI front-endových výpočetních systémech pro inferenci, úložiště a HPC úlohy s podporou všech typů párů front a sloves.
Rozšířené úložné jednotky NVMe bloků Blokové úložiště NVMe napříč platformou Acceleron Bare Metal a virtuálními stroji, až 3x vyšší výkon blokového úložiště (údaj dodavatele)
Plugin knihovny Oracle Collective Communications Library Síťový plugin NCCL a RCCL, který rozděluje kolektivní provoz v rámci back-endové multiplanární sítě, vyrovnává zátěž podle přetížení a zajišťuje failover kolem nefunkčních portů a síťových karet.
Transparentní víceplanární sítě na front-endu Výběr cesty, failover a řízení přetížení pro provoz front-end RDMA, zpracované v SmartNIC

OCCL přesouvá failover do kolektivní vrstvy

Back-endová víceplanární síť OCI propojuje víceportové síťové karty s několika disjunktními strukturami, takže trénovací úloha má n-cestnou redundanci, ale použití těchto rovin vyžaduje funkcionalitu na úrovni síťové karty, která není vždy k dispozici. Plugin Oracle Collective Communications Library tuto závislost odstraňuje. Jedná se o síťový plugin CCL, který nativně podporuje rozhraní pluginů NVIDIA NCCL a AMD RCCL, což jsou rámce vrstev, které převádějí kolektivní operace na přenosy síťových karet, a uvnitř pluginu provádí failover, obnovu a vyvažování zátěže s ohledem na přetížení, nezávisle na firmwaru a topologii síťové karty.

V provozu OCCL distribuuje kolektivní provoz mezi více standardních párů front Reliable Connection, odesílá více dat přes páry s vyšší propustností a přesouvá provoz z přetížených cest na úrovni zpráv a bloků. Když dojde k selhání portu nebo celé síťové karty, přesměruje kolektiv na jiný port nebo síťovou kartu, takže úloha pokračuje bez restartu. Oracle to představuje tak, že je to jednodušší než směrovací řadiče, které vybírají cesty fabric a sledují změny, a funguje to jak v jednoplošných, tak i víceplošných sítích. Stejný výběr víceplošné cesty a failover nyní dosahuje provozu front-end RDMA prostřednictvím toho, co Oracle nazývá Transparent Front-End Multiplanar Networking.

Stejná aktualizace sítě se týkala i dvou položek mimo Acceleron. OCI Global CDN Connect poskytuje přímé propojení mezi OCI Object Storage a Cloudflare, Fastly, Netskrt a Mainstreaming s nulovými poplatky za výstup OCI u oprávněných načtení z mezipaměti v podporovaných regionech a Oracle podepsal nezávazné memorandum o porozumění se společností F5 ohledně plánované webové aplikace OCI App Defense a služby ochrany API.

Síťová infrastruktura Oracle Cloud

Zapojte se do StorageReview

Zpravodaj | YouTube | Podcast iTunes / Spotify | Instagram | Twitter | TikTok | RSS kanál

Harold Fritts

V technologickém průmyslu působím od doby, kdy IBM založila Selectric. Mám ale zkušenosti s psaním. Rozhodl jsem se tedy opustit předprodejní byznys a vrátit se ke svým kořenům, trochu psát, ale stále se věnovat technologiím.