StorageReview.com

Výkon a odolnost: Graid SupremeRAID pro úlohy s umělou inteligencí a HPC

Enterprise  ◇  Podnikové úložiště

SupremeRAID od společnosti Graid Technology nadále nově definuje úložnou krajinu tím, že nastavuje nové standardy ochrany dat a výkonu, zejména pro moderní pracovní zátěže, jako je umělá inteligence a vysoce výkonné výpočty (HPC). Tradiční konfigurace RAID často obtížně splňují požadavky těchto datově náročných prostředí, zejména pokud jsou závislé na hardwarových RAID kartách omezených limity sběrnice PCIe. Díky akceleraci GPU Graid tyto bariéry překonává a poskytuje výjimečný výkon s minimálním dopadem na zdroje CPU a zároveň zajišťuje robustní ochranu RAID.

Graid SupremeRAID pro AI a HPC

Server Gigabyte S183-SH0-AAV1

V pokročilých úlohách, jako je umělá inteligence a HPC, se běžně používají i alternativní konfigurace, jako je JBOD (Just a Bunch of Disks - jen svazek disků) a softwarový RAID (mdadm). I když je JBOD praktický ve spojení s kontrolními body, aby se zabránilo ztrátě dat, zavádí více bodů selhání a zatěžuje IT administrátory náročnými procesy obnovy. Softwarový RAID nabízí odolnost dat, ale spotřebovává cenné prostředky CPU pro správu dat parity RAID a v mnoha oblastech nepodává dostatečný výkon. Naproti tomu SupremeRAID od společnosti Graid poskytuje efektivní, vysoce výkonné řešení, které zjednodušuje správu dat bez kompromisů v rychlosti nebo spolehlivosti.

Karta Graid SupremeRAID

Tato práce se zabývá srovnáním výkonu mezi systémy Graid SupremeRAID, JBOD a softwarovým RAID a ilustruje, proč se Graid jeví jako nejlepší volba pro IT prostředí, kde jsou výkon a ochrana dat prvořadé.

Výkonnostní testovací prostředí

Pro tento testovací systém jsme použili škálovatelný 1U server Gigabyte S183-SH0-AAV1 s dvěma procesory Intel 5. generace. Chtěli jsme najít kompaktní server s dostatečným výpočetním výkonem a shodou okolností server podporuje 32 SSD disků E1.S, což je maximum, které je podporováno jedním diskem Graid SupremeRAID SR-1010. Server Gigabyte má 32 slotů DIMM s podporou 96GB RDIMM a 256GB 3DS RDIMM. Tato platforma nabízí tři sloty FHHL PCIe Gen5 v zadní části, což poskytuje spoustu možností pro vysokorychlostní síťové připojení. Základní deska navíc nabízí dva integrované síťové porty 1GbE a port pro správu 1GbE.

Graid HPC DRAM

Kingston 96GB DDR5-5600 ECC RDIMM

Server podporuje 32 slotů DIMM, ale v tomto případě jsme jej osadili 16 moduly Kingston DIMM, 1 modul DIMM na kanál (1DPC) pro maximální rychlost DRAM. Pokud by pracovní zátěž vyžadovala větší rozměry, je možný přechod na moduly DIMM s vyšší hustotou nebo konfiguraci 2DPC, ale ta druhá snižuje rychlost DRAM na 4400 MT/s. Moduly Kingston 96GB DDR5-5600 ECC RDIMM v tomto serveru poskytují vynikající poměr výkonu a ceny, což z nich činí atraktivní volbu pro pracovní zátěže vyžadující vysokorychlostní DRAM a rozumnou rozměry DRAM bez cenové prémie 128GB DIMM. Tyto moduly nabízejí to nejlepší z obou světů pro náročné úlohy HPC a AI.

SSD disky KIOXIA 7.68 TB XD7P

32 pozic pro SSD disky E1.S je osazeno disky KIOXIA XD7P SSD s kapacitou 7.68 TB. Disky využívají rozhraní PCIe Gen4 x2 a poskytují maximální propustnost 7.2 GB/s pro čtení a 4.8 GB/s pro zápis. Společnost KIOXIA tyto disky navrhla speciálně pro intenzivní hyperscale a HPC úlohy, kde se výhody hustoty SSD disků E1.S projeví. Důležité je, že společnost KIOXIA zajistila, aby tepelný design disku XD7P byl schopen udržet krok s touto hustou serverovou konstrukcí i při vysokém zatížení.

Zadní I/O serveru Gigabyte S183-SH0-AAV1

Specifikace testovacího systému

  • Server Gigabyte S183-SH0-AAV1
  • 2 x procesory Intel Xeon Platinum 8592+ (64 jader, 1.9 GHz)
  • 16x 96GB Kingston DDR5-5600
  • 32 SSD disků KIOXIA XD7P 7.68 TB E1.S
  • Graid SupremeRAID SR-1010
  • Server Ubuntu 22.04.4

Výsledky testování výkonu

HPC úlohy mohou běžet dny, týdny nebo měsíce v kuse a bez odolného backendového úložiště může selhání jediného disku donutit tyto úlohy vrátit se do starých kolejí. Abychom vyhodnotili dopad Graidu na odolnost i výkon HPC a Ai úloh, podíváme se na výkon interního úložného benchmarku y-cruncher. Cílem je porovnat různé konfigurace úložišť, JBOD, softwarový RAID a Graid SupremeRAID, abychom pochopili jejich dopad na úlohy náročné na CPU.

Konfigurace RAIDu

Víme, že softwarový RAID mdadm zaznamenává značný počet zápisů paritních dat. RAID10 by sice dosáhl vyššího výkonu, ale také by výrazně snížil využitelnou kapacitu. Pro co nejlepší optimalizaci výkonu softwarového RAID5 jsme nakonfigurovali dva pooly RAID5, rozdělené mezi SSD disky 0-15 a 16-31. Tím jsme je vyvážili mezi oba CPU.

Porovnání Graid bylo také vyladěno pro použití dvou RAID5 poolů, s rovnoměrným rozdělením poloviny SSD disků na CPU0 a druhé poloviny na CPU1 pro vyvažování NUMA. Testovali jsme s jedním svazkem v každém RAID5 poolu a také se dvěma svazky na RAID5 pool.

Každý disk je v konfiguraci JBOD namapován individuálně, což zajišťuje rovnoměrné vyvážení NUMA.

Do této zprávy jsme nemohli zahrnout hardwarový RAID, protože způsob zapojení disků v tomto serveru znemožňuje podporu tradičních hardwarových karet RIAD. Stojí však za zmínku, že i kdybychom to mohli, v nejlepším případě by se dosáhlo limitu šířky pásma slotu PCIe Gen4 x16 pro jednu kartu, který činí přibližně 28 GB/s.

Konfigurační software

Pro tyto různé scénáře úložiště jsme použili interní nástroj pro testování výkonu od y-cruncher . Výsledky testů jsou rozděleny na výkon sekvenčního čtení a zápisu, rychlost výpočetního I/O, rychlost diskového I/O a poměr rychlosti disku k výpočetní rychlosti. Tento nástroj jsme vybrali, protože současně zatěžuje CPU, paměť a I/O disk. Ačkoli nepředstavuje žádnou konkrétní pracovní zátěž, zjistili jsme, že data, která generuje, úzce korelují s celkovým výkonem systému v aplikacích s velkým množstvím I/O. Je pozoruhodné, že test I/O zahrnuje skutečné zpracování dat, spíše než jen co nejrychlejší přenos bitů přes rozhraní, což z něj činí přesnější odraz výkonu systému při reálném zatížení.

Výkon sekvenčního čtení a zápisu udává hrubou rychlost diskového pole. Výpočetní rychlost je rychlost, s jakou CPU zpracovává data, zatímco rychlost diskového I/O udává, jak rychle mohou data streamovat do CPU během výpočetní práce. Úlohy směřující na disk potřebují vyšší rychlost disku I/O než výpočetní rychlost, aby se nezpomalily. Pokud je tento poměr menší než 1.0, disk je úzkým hrdlem, zatímco nad 1.0 je úzkým hrdlem CPU. y-cruncher pro velké úlohy dosahuje nejlepších výsledků, když je poměr 2.0 nebo vyšší.

Konfigurace úložiště Sekvenční čtení GB/s Sekvenční zápis GB/s Výpočet GB/s Diskový I/O GB/s Poměr
Přímý JBOD 102 102 18.4 81.5 4.42
GRAID RAID5 x 2 2VD 64.3 43.8 23.1 70.4 3.05
GRAID RAID5 x 2 4VD 85.2 73.7 22.1 69.4 3.14
SW RAID5 x 2 122 3.6 25.7 10.9 0.42

Díky přímému JBOD na 32 samostatných SSD disků E1.S dosáhl y-cruncher výkonu 102 GB/s pro čtení a 102 GB/s pro zápis díky internímu procesu prokládání. To je obecně nejvyšší výkon, jakého y-cruncher na této platformě dosáhne, i když nevýhodou je absence datové parity. Když byla konfigurace přepnuta na softwarové svazky RAID5 (rozložené mezi oba procesory) s mdadm, sekvenční výkon klesl na pouhých 3.6 GB/s pro zápis a 122 GB/s pro čtení. Graid se dvěma pooly RAID5 a dvěma svazky naměřil 64.3 Gb/s pro čtení a 43.8 GB/s pro zápis. Rozdělením do dvou poolů RAID5, ale se čtyřmi svazky, zaznamenal Graid zvýšení šířky pásma na 85.2 GB/s pro čtení a 73.7 GB/s pro zápis.

Po zvážení šířky pásma a pochopení spektra možností konfigurace úložiště se podrobněji podíváme na dopad tohoto rozhodnutí na aplikaci. Poměr výpočtů k šířce pásma diskových I/O operací vykázal nejvyšší poměr 4.43 u konfigurace JBOD. Softwarový RAID5 byl pouhých 0.42, zatímco Graid RAID5 3.05 se 2VD a 3.14 se 4VD.

V tomto příkladu y-cruncheru, který zahrnuje všechny výkonnostní možnosti serveru, je pro optimální výkon vyžadován poměr 2.0 nebo vyšší. Konfigurace JBOD sice dosahuje nejlepších celkových výsledků, ale na úkor parity dat, což znamená, že selhání jakéhokoli disku, byť jen na okamžik, znamená ztrátu dat. Na druhou stranu softwarový RAID může nabídnout dostupnost dat a vyšší rychlost čtení než JBOD, ale zápisy trpí tak silně, že diskové I/O operace nemohou držet krok s CPU, což vede k hroznému výsledku 42.

Tyto dva datové body jsou klíčové pro pochopení výhod, které Graid SupremeRAID nabízí těmto úlohám. V tomto případě použití se souhrnné výkonnostní údaje nacházejí mezi JBOD a softwarovým RAID, ale surový I/O není úplný příběh. Tento příklad ukazuje, že Graid dokáže poskytnout více než požadovaný výkon aplikací a zároveň zajistit dostupnost dat. Tato kombinace znamená, že organizace používající Graid mohou očekávat ochranu RAID, úložiště a výkon aplikací s neblokující architekturou, která daleko převyšuje to, co by mohla nabídnout tradiční karta RAID.

Závěr

SupremeRAID od společnosti Graid Technology neustále posouvá hranice ochrany dat a výkonu a nastavuje nový standard v oboru. Využitím síly akcelerace GPU poskytuje Graid bezkonkurenční rychlost a efektivitu v konfiguracích RAID, čímž výrazně snižuje zátěž CPU a zároveň maximalizuje propustnost.

Data, která jsme pro tuto zprávu shromáždili, demonstrují schopnost systému Graid zajistit robustní ochranu dat a zároveň splnit náročné požadavky moderních úloh s využitím umělé inteligence a HPC – oblastí, kde tradiční řešení RAID a softwarová RAID řešení často selhávají. Tato efektivita umožňuje kritickým systémovým zdrojům, jako je CPU, DRAM a úložiště, plně přispívat k výkonu aplikací, které mají podporovat, a tím zvyšovat celkovou hodnotu a efektivitu systému.

Technologie mřížky

Tuto zprávu sponzoruje společnost Graid Technology. Veškeré názory a stanoviska vyjádřené v této zprávě vycházejí z našeho nezaujatého pohledu na daný produkt (produkty).

Zapojte se do StorageReview

Zpravodaj | YouTube | Podcast iTunes / Spotify | Instagram | Twitter | TikTok | RSS kanál

Kevin O'Brien

Uvnitř laboratoře StorageReview Lab vyhodnocuji produkty a spolupracuji s lídry v oboru na vývoji nových testovacích prostředí. Doma vychovávám rodinu.