V roce 2023 společnost Quantum spustil nový, moderní pohled na softwarově definované úložiště s názvem Myriad. Koncem loňského roku jsme se podrobně ponořili do systému Myriad a byli jsme ohromeni jeho extrémně výkonnou a odolnou architekturou. Rozmanitá sada funkcí a flexibilita protokolů systému Myriad rozšiřují rozsah jeho použití nad rámec potřeb sdílení souborů v podniku. A v současné době neexistuje žádná aplikace, která by byla žádanější než umělá inteligence.
Umělá inteligence zásadně transformuje podnikové prostředí tím, že přináší nové poznatky do rozhodování, automatizuje složité procesy a vytváří nové způsoby, jak mohou firmy interagovat se zákazníky a řídit provoz. Zde je několik klíčových oblastí, kde má umělá inteligence dopad:
Automatizace : Umělá inteligence automatizuje rutinní úkoly náchylné k chybám, jako je zadávání dat a zákaznická podpora, pomocí chatbotů a dokonce nachází způsoby, jak optimalizovat složité procesy, jako je řízení dodavatelského řetězce. To šetří čas a umožňuje lidem soustředit se na kreativnější nebo strategičtější úkoly.
Analýza dat : Prohledává obrovské množství dat, aby našla vzorce a poznatky rychleji než kterýkoli člověk. To pomáhá firmám činit chytřejší rozhodnutí, předpovídat tržní trendy a lépe porozumět svým zákazníkům.
Personalizace : Firmy využívají umělou inteligenci k přizpůsobení svých služeb a marketingu jednotlivým zákazníkům, například pomocí doporučovacích systémů, které se učí, co se uživateli líbí, např. na Netflixu nebo Spotify.
Vylepšené zabezpečení : Umělá inteligence hraje v kybernetické bezpečnosti důležitou roli, pomáhá okamžitě detekovat hrozby a reagovat na ně. Je neustále ve střehu a vyhledává cokoli podezřelého.
Inovace : Umělá inteligence pohání inovace tím, že pomáhá vyvíjet nové produkty a služby – od léků až po nové materiály – simulací všech aspektů designu, vzhledu a ovládání produktu a jeho údržby. Dokáže dokonce předpovídat výsledky ještě před fyzickými zkouškami léčiv.
Výzvy škálovatelnosti a flexibility
Starší úložné systémy často nedokážou efektivně škálovat, což je klíčová schopnost pro aplikace umělé inteligence, které generují a zpracovávají velké objemy dat. Tradiční úložiště může vyžadovat značné prostoje nebo složité upgrady a konfiguraci a alokaci sítě pro zvýšení kapacity. To není proveditelné v dynamických prostředích umělé inteligence, která vyžadují rychlou škálovatelnost, nulové prostoje a nasazení modelu bez ztráty výkonu.
Pracovní zátěž umělé inteligence také vyžaduje vysokou propustnost a zároveň nízkou latenci. Starší systémy, obvykle vybavené mechanickými disky a zastaralými sítěmi, nemohou tyto požadavky na rychlost splnit, což vede k úzkým hrdlům, která brzdí provoz umělé inteligence. Moderní umělá inteligence dramaticky těží z rychlejších technologií, jako je NVMe a akcelerace GPU, a ty jsou často se staršími systémy nekompatibilní.
Aplikace umělé inteligence vyžadují přístup k datům a jejich analýzu v reálném čase z různých zdrojů. Zastaralé úložiště, často izolované, brání integraci a přesunu dat a omezuje efektivní analýzu dat a strojové učení. Zastaralé nástroje pro správu se také potýkají se složitou správou dat a automatizovaným vrstvením, které je pro umělou inteligenci nezbytné.
Údržba a modernizace starších úložišť jsou také nákladné a neefektivní z hlediska požadavků umělé inteligence, včetně vysokých provozních nákladů na energii, chlazení a prostor. Modernizace starých systémů pro podporu nových technologií je ekonomicky neudržitelná.
Umělá inteligence vzkvétá díky moderním funkcím úložišť, jako je automatizované vrstvení, analýza v reálném čase a robustní bezpečnostní opatření, jako je šifrování. Starším systémům tyto klíčové funkce, které jsou nezbytné pro ochranu dat umělé inteligence a splnění regulačních standardů, chybí.
Modernizace infrastruktur pro správu dat a ukládání dat je zásadní pro využití transformačního potenciálu umělé inteligence. Řešení úložišť nové generace navržená pro složitosti umělé inteligence mohou výrazně zvýšit výkon, škálovatelnost a nákladovou efektivitu a podpořit inovativní aplikace a obchodní modely.
Seznamte se s Quantum Myriad
Quantum Myriad je vysoce výkonné, softwarově definované all-flash úložné řešení navržené tak, aby splňovalo požadavky moderních aplikací, zejména těch, které vyžadují vysokou propustnost a nízkou latenci. To platí zejména pro umělou inteligenci, datovou vědu, vizuální efekty a animaci. Cloudově nativní architektura Myriadu poskytuje flexibilitu, snadné nasazení a automatické reakce na změny systému, ať už v místním prostředí nebo ve veřejném cloudovém prostředí, jako je AWS.
Konstrukce Myriad se zaměřuje na konzistentně nízkou latenci a vysokou šířku pásma. Tyto vlastnosti jsou naprostou nutností pro aplikace, které vyžadují bleskově rychlé zpracování dat a výkon v reálném čase.
Architektura Myriadu je vysoce flexibilní a bez námahy se přizpůsobí malým i velkým nasazením. Je snadné začít s malým systémem a poté rozšířit cluster Myriad. S přidáváním dalších uzlů se systém lineárně škáluje a zároveň zachovává efektivitu a vyváženost.
Správa clusterů s Myriad je jednoduchá. Dodává se s funkcemi, jako jsou rozšíření úložiště bez nutnosti kliknutí a uživatelsky přívětivý portál pro správu, které pomáhají snížit potřebu neustálé administrativní pozornosti. Myriad zajišťuje integritu dat pomocí transakčního úložiště klíč-hodnota rozloženého napříč uzly a oprava chyb je spravována napříč všemi dostupnými úložnými uzly.
Myriad nabízí působivou síťovou podporu. Díky podpoře RDMA over Converged Ethernet (RoCE) a integraci se stávajícími síťovými nasazeními prostřednictvím směrování BGP mohou data bez námahy proudit do clusteru Myriad a z něj a zároveň využívat pokročilé síťové funkce.
Myriad je navržen tak, aby byl uživatelsky přívětivý a vyžaduje minimální kroky k nastavení a spuštění nebo přidání dalších sdílených umístění. Díky tomu je ideální pro podniky, které se potřebují rychle přizpůsobit měnícím se potřebám úložiště, zejména proto, že řešení běží na standardních, hotových serverech. Navíc, pokud zvažujete cloud, Myriad si dobře rozumí s platformami, jako je AWS, takže můžete rozšířit své možnosti nad rámec svého on-premise nastavení.
Testovaná kvantově myriádová konfigurace
Testovaný Quantum Myriad měl základní konfiguraci pěti uzlů. Každý uzel byl vybaven deseti 15TB SSD disky, což v celém clusteru představovalo značné množství rychlého úložiště. Toto základní nastavení umožnilo značnou kapacitu úložiště dat a zároveň zachovalo rychlost nezbytnou pro operace s vysokým počtem I/O a rychlé načítání dat – to vše je nezbytné pro zpracování v reálném čase a výpočty umělé inteligence. Úložné uzly jsou specifikovány a konfigurovány společností SuperMicro a disky NVMe jsou snadno dostupné od společnosti Samsung.
Pro testování jsme použili platformu Myriad konfigurovanou v 5uzlovém clusteru, přičemž každý uzlový uzl měl následující klíčové specifikace:
- Úložný uzel Quantum Myriad N1010 s jedním 64jádrovým procesorem AMD EPYC
- 10 x 15.36TB NVMe TLC
- 2 x duální 100GbE ethernetové porty
Nedílnou součástí Myriad jsou uzly vyrovnávače zátěže (load balancer), které jsou rozmístěny v redundantním páru a propojeny napříč všemi úložnými uzly. Ty jsou klíčové pro správu datového provozu do a z úložných uzlů. Dvojice vyrovnávačů zátěže zajišťuje rovnoměrné rozložení síťového provozu mezi úložnými uzly, čímž zabraňuje tomu, aby se kterýkoli uzel stal úzkým hrdlem. V prostředích, kde je vyžadován simultánní přístup k datům a jejich zpracování, je to extrémně důležité, a to v prostředích, kde rychlost a spolehlivost přístupu k datům může významně ovlivnit celkový výkon systému.
Použití více uzlů a vyvažovačů zátěže zvyšuje výkon a zvyšuje spolehlivost a odolnost systému vůči chybám. Rozložení zátěže úložiště a sítě umožňuje systému pokračovat v efektivním provozu, i když se u jednoho uzlu vyskytnou problémy. Toto nastavení je nezbytné pro udržení provozuschopnosti a zajištění integrity dat v kritických obchodních aplikacích.
Základní konfigurace je navržena flexibilně a lze ji škálovat přidáním dalších úložných uzlů dle potřeby. Úložnou kapacitu můžete rozšířit začleněním dalších uzlů, použitím hustších NVMe disků nebo obojím. Můžete například přidat nový úložný uzel vybavený 30TB disky do systému, který v současnosti používá 15TB disky, nebo můžete upgradovat na hustší moduly disků v rámci stávajícího prostoru. Tato škálovatelnost je nezbytná pro firmy, které očekávají růst svých datových potřeb nebo se setkávají s proměnlivými vzorci využívání dat.
Servery generátoru zátěže GPU Comino
Pro testování systému Myriad a generování našich benchmarků jsme použili dvojici systémů Comino Grando. Systémy Comino Grando jsou vysoce výkonná, kapalinou chlazená sestavy navržené speciálně pro maximalizaci efektivity a stability GPU při zátěži. Jsou obzvláště vhodné pro náročné výpočetní úlohy, jako jsou ty, s nimiž se setkáváme v oblasti umělé inteligence, analýzy dat a graficky náročných aplikací. Zde je shrnutí klíčových aspektů, které jsme pro toto testování nakonfigurovali:
| Grando Server | Pracovní stanice Grando | |
|---|---|---|
| Procesor (CPU) | Rozrývač závitů Pro W5995WX | Rozrývač závitů Pro 3975WX |
| Beran | RAM 512GB | RAM 512GB |
| GPU | 2x NVIDIA A100 | 2x NVIDIA A100 |
| NIC | 4x NVIDIA ConnectX 6 200G EN/IB | 4x NVIDIA ConnectX 6 200G EN/IB |
| PSU | 4x 1600W zdroje | 3x zdroj 1000 SFX-L |
| Skladování | 2 TB NVMe | 2 TB NVMe |
Comino Grando využívá sofistikovaný systém kapalinového chlazení procesoru a grafických karet, který zahrnuje připojení bez odkapávání a velký blok pro distribuci vody, jenž efektivně řídí tok chladicí kapaliny a udržuje tak výkon i při vysokém zatížení. Toto uspořádání zvyšuje výkon a minimalizuje hluk.
Za použití nvidia-smi top -mp Příkaz zobrazí mapování GPU a NIC v našem systému a cesty, kterými se data musí ubírat. Zde je legenda:
X = Vlastní SYS = Spojení procházející PCIe a také propojení SMP mezi uzly NUMA (např. QPI/UPI) UZEL = Spojení procházející PCIe a také propojení mezi hostitelskými mosty PCIe v uzlu NUMA PHB = Připojení procházející PCIe i PCIe Host Bridge (obvykle CPU) PXB = Spojení procházející více mosty PCIe (bez nutnosti procházet PCIe Host Bridge) PIX = Procházení spojení v most jeden můstek PCIe
Z toho vyplývá, že pro optimální výkon bychom nechtěli používat GPU1 s NIC4 a NIC5, i když to v našem syntetickém testování hraje omezenou roli.
Testování kvantové myriády umělé inteligence
Provedli jsme technickou analýzu, abychom vyhodnotili výkon úložného clusteru Quantum Myriad a jeho dopad na reálné úlohy umělé inteligence. Naše analýza se zaměřila na schopnost clusteru optimalizovat využití zdrojů a efektivně škálovat. Během testování jsme použili špičkové rackové pracovní stanice Comino vybavené síťovými kartami NVIDIA ConnectX-6 200GbE a dvěma grafickými kartami NVIDIA A100. Tyto karty jsou klíčové, protože představují robustní testovací prostředí podobné tomu, jaké by se mohlo používat ve velkých projektech umělé inteligence.
Pro vytvoření testovacích skriptů GDS a analýzu výstupu jsme využili jednoduchý shellový skript. ASCII Art for Style Points
Primárním cílem těchto testů bylo posoudit schopnost clusteru Quantum Myriad zvládat intenzivní operace I/O a to, jak dobře dokáže zvládnout propustnost vysokokapacitních GPU, které jsou pro výpočty s využitím umělé inteligence klíčové. Vzhledem k tomu, že pracovní zátěže umělé inteligence silně závisí na rychlém zpracování datových sad, schopnost úložného řešení poskytovat data rychlostí, která odpovídá možnostem zpracování GPU, přímo ovlivňuje celkovou efektivitu a výkon systému.
Naším primárním nástrojem pro testování zde byl systém GPUDirect Storage I/O (GDSIO) od společnosti NVIDIA. GPUDirect je klíčová technologie navržená pro zvýšení efektivity přenosu dat mezi úložnými systémy a grafickými procesory (GPU) a zefektivnění pracovních postupů, které jsou klíčové pro vysoce výkonné výpočty, umělou inteligenci a analýzu velkých dat.
Tato technologie umožňuje přímý přístup k paměti (DMA) z úložiště přímo do paměti GPU, čímž se v podstatě obchází CPU. Tím se eliminují zbytečné kopie dat, což snižuje latenci a zlepšuje propustnost. GDSIO je syntetická implementace GPUDirect a je obzvláště reprezentativní pro aplikace, které vyžadují rychlé zpracování velkých datových sad. Patří sem trénování modelů strojového učení nebo analýza dat v reálném čase. Poskytuje také zpětnou vazbu pro profilování a ladění úložné a síťové infrastruktury.
V kontextu benchmarkingu úložišť hraje GDSIO klíčovou roli v přesném posouzení výkonu úložných řešení v prostředích s vysokým využitím grafických procesorů (GPU). Poskytováním přímější cesty pro přenos dat umožňuje GDSIO benchmarking k měření skutečného potenciálu úložných systémů v podpoře aplikací akcelerovaných GPU.
Konfigurace sdílení AI
Po přihlášení do Myriad se uživateli zobrazí řídicí panel, který zobrazuje obecný přehled aktuálního výkonu a specifikací clusteru. Uživatelé si mohou snadno prohlížet telemetrická data, jako jsou IOPS, propustnost, latence a využití.
Najetím myší na kterýkoli z grafů získáte velmi podrobné informace o výkonu.
Na obrazovce Souborový systém jsou intuitivně viditelné aktuálně nakonfigurované body připojení pro sdílené složky.
Stránka Uzly je zajímavá, zobrazuje fyzickou mapu clusteru, řadiče a vyvažovačů zátěže spolu s aktivitou portů a disky NVMe.
Kliknutím na libovolný z disků se zobrazí stav hlášený hostitelem.
V sekci Sdílené složky mohou uživatelé snadno nakonfigurovat sdílené složky podle potřeby a získat pokyny pro jejich připojení v různých operačních systémech.
Pro naše testování jsme spolupracovali se společností Quantum na nastavení vyhrazené sdílené složky NFS. Tyto byly připojeny na /mnt/myriad/
Tohoto bylo dosaženo pomocí uživatelsky přívětivého uživatelského rozhraní Myriad, které nabízí přímočarou konfiguraci pomocí myši. Během testovacího období byla možnost SMB v předběžném přístupu, zatímco NFS zůstal preferovaným protokolem pro naše počítače s Linuxem.
Náš bod připojení NFS byl nakonfigurován na 500 TB prostoru, ale rozšířením souborového systému můžete využít libovolný prostor. Úložiště můžete volně překročit bez sankcí a neexistuje žádný pevný limit velikosti. To se stává velmi zajímavým, když vezmete v úvahu kompresi dat Myriad, která v podstatě snižuje datovou stopu na NVMe SSD discích.
S jedním bodem připojení na hostitele má každá grafická karta (GPU) svou vlastní podsložku a používá vlastní síťovou kartu, aby se zabránilo omezení NFSv4.
Výsledky a analýza kvantové myriad umělé inteligence
Nejprve se podívejme na celkový výkon jednoho z našich běhů loadgenu. Tento příklad pohledu na úložiště z pohledu jedné grafické karty představuje výkon, který jsme zaznamenali napříč všemi uzly/GPU.
| Typ V/V | Velikost I/O (KiB) | Propustnost (GiB/s) | Průměrná latence (usec) | operace |
|---|---|---|---|---|
| NÁHODNÝ ZAPIS | 1024 | 2.57 | 10,087.74 | 78,820 |
| RANDREAD | 1024 | 6.92 | 2,277.86 | 209,319 |
| NÁHODNÝ ZAPIS | 4096 | 3.44 | 18,193.14 | 56,616 |
| RANDREAD | 4096 | 3.64 | 6,481.70 | 73,715 |
| NÁHODNÝ ZAPIS | 4 | 0.03 | 2,307.57 | 237,512 |
| RANDREAD | 4 | 0.12 | 497.05 | 941,971 |
| NAPIŠTE | 1024 | 2.79 | 5,609.64 | 94,017 |
| ČÍST | 1024 | 3.11 | 5,021.91 | 95,556 |
| NAPIŠTE | 4096 | 2.77 | 22,551.26 | 31,716 |
| ČÍST | 4096 | 3.50 | 17,875.32 | 31,871 |
| NAPIŠTE | 4 | 0.08 | 812.93 | 580,169 |
| ČÍST | 4 | 0.12 | 507.34 | 926,909 |
Výsledky testů odhalují významné poznatky o výkonu Myriadu v různých operacích a velikostech I/O. Mezi naše zjištění patří:
- Výkon malých a velkých bloků: Testy ukazují výrazný rozdíl v propustnosti a latenci při zpracování malých (4 KiB) oproti velkým (1024 KiB a 4096 KiB) velikostem bloků. Například operace RANDREAD s velkými bloky o velikosti 4096 KiB vykázaly nejvyšší propustnost přibližně 9.64 GiB/s s relativně nižší průměrnou latencí 6 481,70 mikrosekund. To naznačuje vynikající výkon pro rozsáhlé úlohy zpracování dat, které jsou běžné při trénování modelů strojového učení, kde se často přistupuje k velkým datovým sadám.
- Schopnost saturace GPU: Propustnost dosažená během testů velkých bloků, zejména pro operace RANDREAD, naznačuje, že úložný cluster Myriad je docela dobře schopen podporovat grafické procesory NVIDIA A100 v úlohách typu inferenčního vyhledávání a pro přesun kontrolních bodů do centrálního umístění během trénovacích úloh. Vzhledem k tomu, že A100 dokáže zpracovat obrovské množství dat pro hluboké učení, jsou vysoké propustnosti nezbytné pro zajištění toho, aby tyto grafické procesory nečekaly na data, a tím maximalizovaly výpočetní efektivitu.
- Manipulace s nízkou velikostí bloku: Naopak při zkoumání operací s bloky o velikosti 4 KiB jsme pozorovali dramatický nárůst počtu operací a latence s výrazným poklesem propustnosti. Tento scénář je klíčový pro pochopení výkonu v prostředích, kde dochází k více transakcím s malými soubory, jako například v online systémech pro zpracování transakcí nebo databázích zpracovávajících mnoho malých dotazů.
Ale počkejte, je toho víc!
Při zaměření na 4K testy se věci zajímavě změnily, když jsme do Myriadu nahráli více GPU. Vzhledem k omezením montážního protokolu, jak bylo zjištěno v úvodních běhech během fáze objevování, se Myriad choval podle očekávání, ale s překvapivým zvratem. Když jsme Myriad nahráli na všechny GPU současně, díky několika skriptovacím hackům byly výsledky působivé. Myriad poskytoval v podstatě stejný výkon všem uzlům současně.
Velikost souboru 4K
Zde je kompilace pěti simultánních běhů úlohy 4K:
| Uzel | Typ V/V | Propustnost (MiB/s) | Průměrná latence (usec) | operace |
|---|---|---|---|---|
| 1 | RANDREAD | 125.73 | 497.05 | 941,971 |
| 2 | RANDREAD | 121.29 | 506.67 | 907,642 |
| 3 | RANDREAD | 128.37 | 474.73 | 906,847 |
| 4 | RANDREAD | 122.93 | 487.88 | 966,441 |
| Celkový počet náhodných čtení | 498.31 | 491.58 | 3,722,901 | |
| 1 | NÁHODNÝ ZAPIS | 27.08 | 2,307.57 | 237,512 |
| 2 | NÁHODNÝ ZAPIS | 26.88 | 2,285.62 | 231,625 |
| 3 | NÁHODNÝ ZAPIS | 26.10 | 2,406.89 | 228,983 |
| 4 | NÁHODNÝ ZAPIS | 28.27 | 2,341.65 | 245,172 |
| Celkový náhodný zápis | 108.34 | 2,335.43 | 943,292 | |
| 1 | ČÍST | 123.19 | 507.34 | 926,909 |
| 2 | ČÍST | 125.69 | 511.23 | 900,136 |
| 3 | ČÍST | 123.90 | 502.04 | 945,949 |
| 4 | ČÍST | 123.77 | 502.36 | 948,850 |
| Celkem přečteno | 496.54 | 505.74 | 3,721,844 | |
| 1 | NAPIŠTE | 76.87 | 812.93 | 580,169 |
| 2 | NAPIŠTE | 80.17 | 839.88 | 551,311 |
| 3 | NAPIŠTE | 78.62 | 783.24 | 556,060 |
| 4 | NAPIŠTE | 73.40 | 811.62 | 597,226 |
| Celkový zápis | 309.06 | 811.92 | 2,284,766 | |
Velikost souboru 4 MB
| Uzel | Typ V/V | Propustnost (GiB/s) | Průměrná latence (usec) | operace |
|---|---|---|---|---|
| 1 | RANDREAD | 3.44 | 6,481.70 | 73,715 |
| 2 | RANDREAD | 3.97 | 6802.17 | 75,689 |
| 3 | RANDREAD | 3.83 | 6498.16 | 73,277 |
| 4 | RANDREAD | 3.50 | 6,589.43 | 70,443 |
| Celkový počet náhodných čtení | 14.75 | 6,593 | 293,124 | |
| 1 | NÁHODNÝ ZAPIS | 3.44 | 18,193.14 | 56,616 |
| 2 | NÁHODNÝ ZAPIS | 3.4048 | 19090.38 | 54,725 |
| 3 | NÁHODNÝ ZAPIS | 3.4349 | 18125.25 | 56,277 |
| 4 | NÁHODNÝ ZAPIS | 3.5084 | 17018.30 | 54,397 |
| Celkový náhodný zápis | 13.78 | 18,107 | 222,015 | |
| 1 | ČÍST | 3.50 | 17,875.32 | 31,871 |
| 2 | ČÍST | 3.4388 | 17110.93 | 31,119 |
| 3 | ČÍST | 3.5133 | 18124.53 | 31,096 |
| 4 | ČÍST | 3.3035 | 17755.53 | 31,257 |
| Celkem přečteno | 13.75 | 17,717 | 125,343 | |
| 1 | NAPIŠTE | 2.77 | 22,551.26 | 31,716 |
| 2 | NAPIŠTE | 2.8845 | 23674.69 | 33,017 |
| 3 | NAPIŠTE | 2.7008 | 22661.31 | 30,971 |
| 4 | NAPIŠTE | 2.7719 | 22798.83 | 29,519 |
| Celkový zápis | 11.13 | 22,922 | 125,223 | |
Unikátní architektura úložiště Quantum Myriad poskytuje dvojí přístup, který prospívá jak operacím GPU, tak souběžným aktivitám uživatelů bez ztráty výkonu. To je obzvláště efektivní v prostředích s vysokou zátěží, kde je vyžadován simultánní přístup k datům a jejich zpracování, podobně jako v uživatelské komunitě serverů s umělou inteligencí a strojovým učením a přístupu koncových uživatelů pro analytiky. Podporou přístupu k velkým datovým blokům pro GPU spolu s dalšími uživatelskými operacemi Myriad zajišťuje efektivní využití zdrojů a zabraňuje úzkým hrdlům. To je klíčové pro udržení vysokých provozních rychlostí a přesnosti dat v aplikacích, jako je analýza v reálném čase a trénování modelů umělé inteligence.
Za zmínku stojí, že velkou výhodou Quantum Myriad je jeho schopnost obratně zpracovávat více datových streamů až do limitů NFSv4, které lze snadno narušit při intenzivním zatížení GPU. Sofistikované funkce správy dat systému zabraňují tomu, aby tato omezení ovlivnila celkový výkon platformy Myriad, a zajišťují, že úlohy GPU s vysokou zátěží nezpomalují ostatní operace ve stejné síti. Tato funkce je obzvláště výhodná pro odvětví, která vyžadují robustní možnosti zpracování dat bez obětování výkonu souběžných úloh, a podporuje tak plynulý pracovní postup pro všechny uživatele.
Důsledky a škálování v reálném světě
Quantum Myriad má potenciál snadno pracovat s reálnými aplikacemi a škálovatelnými scénáři. Jeho schopnost zpracovávat velké bloky s vysokou propustností a nízkou latencí je výhodná pro úlohy umělé inteligence, včetně trénování modelů hlubokého učení, kde se velké datové sady zpracovávají v dávkách. Vysoká propustnost zajišťuje, že data jsou do GPU přijímána bez zpoždění, což je klíčové pro udržení vysokého využití a efektivního učení.
Další zásadní charakteristikou je škálovatelnost. Výkon úložného clusteru Quantum Myriad v našich testech naznačuje, že dokáže efektivně podporovat větší konfigurace. S rostoucím počtem připojených zařízení (např. dalších grafických procesorů nebo jiných vysoce výkonných výpočetních jednotek) se zdá, že úložný systém je schopen udržovat vysokou úroveň doručování dat, aniž by se stal úzkým hrdlem.
Výkon úložného clusteru Quantum Myriad během operací RANDREAD s velkými bloky byl během našich testů obzvláště pozoruhodný. Tato schopnost je klíčová s ohledem na potřeby moderních frameworků pro umělou inteligenci a strojové učení.
Test RANDREAD se svou značnou propustností ukazuje schopnost Myriadu rychle a efektivně načítat velké objemy dat. To se stává obzvláště důležitým v kontextu inferenčních úloh, kde rychlost, s jakou lze k datům přistupovat, přímo ovlivňuje výkon modelů umělé inteligence v produkčním prostředí. Inferenční úlohy, které často vyžadují rychlý přístup k velkým datovým sadám pro rozhodování v reálném čase, nesmírně těží z vysokorychlostních možností načítání dat, které cluster Myriad vykazuje. Například v aplikacích, jako je rozpoznávání obrázků v reálném čase nebo komplexní rozhodovací enginy řídící automatizované systémy, schopnost načítat velké bloky dat s minimální latencí zajišťuje, že inferenční enginy mohou pracovat s maximální efektivitou, aniž by se zastavovaly kvůli datům.
Během testovací fáze Myriad prokázal robustnost při zpracování kontrolních dat během trénovacích úloh, což je stejně důležité jako výkon clusteru během operací zápisu. Trénování moderních modelů umělé inteligence, zejména sítí hlubokého učení, zahrnuje iterační procesy, kde jsou kontrolní body klíčové. Tyto kontrolní body, které představují stav modelu v konkrétní iteraci, je třeba pravidelně ukládat, aby se zajistilo, že se neztratí pokrok a že modely lze efektivně doladit bez nutnosti opětovného trénování od nuly. Myriad efektivně přesouvá velké operace zápisu do úložného clusteru, čímž se zkracuje čas I/O a umožňuje grafickým procesorům soustředit se na výpočet namísto zpracování dat.
Architektura Myriad zajišťuje, že s rostoucími požadavky na data, ať už kvůli rostoucí velikosti datových sad nebo složitějším požadavkům na trénování modelů, se systém může odpovídajícím způsobem škálovat bez vytváření úzkých míst, prostojů nebo ztráty připojení uživatelů. Tato škálovatelnost je nezbytná v době, kdy se pracovní zátěž umělé inteligence a strojového učení rychle vyvíjí, což vyžaduje úložná řešení, která drží krok se současnými požadavky a jsou připravena na nadcházející pokroky ve výzkumu a vývoji umělé inteligence.
Závěr
Úložný cluster Quantum Myriad vykazuje výjimečný výkon při správě rozmanitých a náročných I/O operací. Jedná se o všestranné řešení pro tradiční obchodní úlohy a špičkové aplikace umělé inteligence. Díky vysoké propustnosti a nízké latenci přesahují možnosti Myriadu tradiční úkoly datového skladování, které jsou klíčové pro udržení plynulého provozu a efektivního načítání dat.
Kromě těchto konvenčních použití z něj činí robustní výkonnostní charakteristiky Myriadu ideálního kandidáta pro náročnější pracovní postupy umělé inteligence. V tomto ohledu cluster vyniká ve scénářích vyžadujících rychlý přístup k datům a vysokorychlostní zpracování, což je nezbytné pro trénování sofistikovaných modelů strojového učení a spouštění komplexních neuronových sítí. Schopnost rychle číst a zapisovat velké, sdílené objemy dat může zvýšit využití GPU a zajistit, aby výpočty umělé inteligence mohly být prováděny bez zpoždění.
Toto komplexní testování clusteru Myriad slouží jako klíčový ukazatel pro pochopení jeho škálovatelnosti a výkonu v prostředích, která kombinují tradiční IT a obchodní potřeby s vysokými nároky na výzkum a vývoj v oblasti umělé inteligence. Výsledky zdůrazňují technickou zdatnost Myriadu a jeho potenciál usnadnit vysoce náročné aplikace umělé inteligence a projekty strojového učení a podtrhují jeho adaptabilitu a efektivitu v širokém spektru výpočetních úloh. Tyto schopnosti potvrzují roli Myriadu jako základní technologie podporující podniky při orientaci v současných potřebách a budoucím technologickém prostředí.
Produktová stránka Quantum Myriad
Tuto zprávu sponzoruje společnost Quantum. Veškeré názory a stanoviska vyjádřené v této zprávě vycházejí z našeho nezaujatého pohledu na daný produkt (produkty).




Amazon