Společnost Arista Networks oznámila průlomovou technologickou demonstraci pro vytvoření datových center s umělou inteligencí, která propojují výpočetní a síťové domény do jedné spravované entity s umělou inteligencí. Tato iniciativa, realizovaná ve spolupráci se společností NVIDIA, si klade za cíl vybudovat optimální generativní sítě s umělou inteligencí, které nabízejí kratší dobu dokončení úloh tím, že zákazníkům umožňují jednotně konfigurovat, spravovat a monitorovat klastry umělé inteligence napříč kritickými komponentami, včetně sítí, síťových karet a serverů.
Sjednocená správa pro clustery umělé inteligence
S tím, jak se clustery umělé inteligence a rozsáhlé jazykové modely (LLM) dále rozšiřují, výrazně se zvyšuje i složitost a počet zapojených komponent. Mezi tyto komponenty patří grafické karty (GPU), síťové karty (NIC), přepínače, optika a kabely, které musí fungovat soudržně, aby tvořily komplexní síť. Jednotné kontroly zajišťují, že servery umělé inteligence hostující síťové karty a GPU jsou synchronizovány se síťovými přepínači umělé inteligence napříč různými úrovněmi. Bez tohoto sladění existuje riziko nesprávné konfigurace nebo nesprávného zarovnání, zejména mezi síťovými kartami a síťovými přepínači, což může vážně ovlivnit dokončení úloh kvůli obtížně diagnostikovatelným problémům se sítí.
Koordinované řízení dopravní zácpy
Velké klastry umělé inteligence vyžadují synchronizovanou správu přetížení, aby se zabránilo ztrátám paketů a nedostatečnému využití GPU. Koordinovaná a simultánní správa a monitorování jsou také nezbytné pro optimalizaci výpočetních a síťových zdrojů. Jádrem řešení Arista je agent založený na platformě EOS, který umožňuje komunikaci mezi sítí a hostitelem a koordinuje konfigurace pro optimalizaci klastrů umělé inteligence.
Vzdálený agent s umělou inteligencí pro vylepšenou kontrolu
Systém Arista EOS běžící na přepínačích Arista lze rozšířit na přímo připojené síťové karty a servery prostřednictvím vzdáleného agenta s umělou inteligencí. To umožňuje jednotný bod řízení a přehled o celém datovém centru s umělou inteligencí a vytváří tak jednotné řešení. Vzdálený agent s umělou inteligencí, hostovaný na kartě NVIDIA BlueField-3 SuperNIC nebo běžící na serveru a shromažďující telemetrii ze SuperNIC, umožňuje systému EOS na síťovém přepínači konfigurovat, monitorovat a ladit síťové problémy na serveru. To zajišťuje komplexní konfiguraci sítě a konzistenci kvality služeb (QoS), což umožňuje správu a optimalizaci clusterů s umělou inteligencí jako uceleného řešení.
John McCool, ředitel pro platformy společnosti Arista Networks, uvedl: „Cílem společnosti Arista je zlepšit efektivitu komunikace mezi objevenou sítí a topologií GPU, aby se zkrátily doby dokončení úloh prostřednictvím koordinované orchestrace, konfigurace, validace a monitorování akcelerovaných výpočetních systémů NVIDIA, karet NVIDIA SuperNIC a síťové infrastruktury Arista.“
Tato nová technologie zdůrazňuje, jak vzdálený agent AI založený na platformě Arista EOS umožňuje správu integrovaného clusteru AI jako jednoho řešení. Rozšířením funkcí EOS na servery a SuperNIC prostřednictvím vzdálených agentů AI zajišťuje Arista nepřetržité sledování a hlášení problémů s výkonem nebo selhání mezi hostiteli a sítěmi, což umožňuje rychlou izolaci a minimalizaci dopadů. Síťové přepínače založené na platformě EOS si neustále udržují přehled o přesné topologii sítě a rozšíření EOS na SuperNIC a servery pomocí vzdáleného agenta AI vylepšuje koordinovanou optimalizaci komplexní kvality služeb (QoS) napříč všemi prvky v datovém centru AI, což v konečném důsledku zkracuje dobu dokončení úloh.
Další na řadě pro Arista Networks
Společnost Arista Networks představí technologii agentů s umělou inteligencí na oslavě 10. výročí IPO společnosti Arista na NYSE 5. června, přičemž se očekává, že zákaznické zkušební verze budou zahájeny v druhé polovině roku 2024. Tato demonstrace představuje významný krok k dosažení interoperabilního ekosystému s více dodavateli, který umožňuje bezproblémové řízení a koordinaci mezi sítěmi umělé inteligence a výpočetní infrastrukturou umělé inteligence a řeší rostoucí požadavky na pracovní zátěže umělé inteligence a LLM.
Amazon