Arista Networks har tillkännagett en banbrytande teknikdemonstration för att skapa AI-datacenter som anpassar dator- och nätverksdomäner till en enda, hanterad AI-enhet.
Arista Networks har tillkännagett en banbrytande teknikdemonstration för att skapa AI-datacenter som anpassar dator- och nätverksdomäner till en enda, hanterad AI-enhet. Detta initiativ, som tagits i samarbete med NVIDIA, syftar till att bygga optimala generativa AI-nätverk som erbjuder lägre slutförandetider för jobb genom att tillåta kunder att enhetligt konfigurera, hantera och övervaka AI-kluster över kritiska komponenter, inklusive nätverk, NIC och servrar.
Unified Management för AI-kluster
När AI-kluster och stora språkmodeller (LLM) fortsätter att expandera ökar också komplexiteten och antalet involverade komponenter avsevärt. Dessa komponenter inkluderar GPU, NIC, switchar, optik och kablar, som måste fungera sammanhängande för att bilda ett heltäckande nätverk. Enhetliga kontroller säkerställer att AI-servrar som är värd för NIC och GPU: er är synkroniserade med AI-nätverksväxlar över olika nivåer. Utan denna anpassning finns det en risk för felkonfiguration eller felanpassning, särskilt mellan NIC:er och nätverksväxlarna, vilket allvarligt kan påverka slutförandet av jobb på grund av nätverksproblem som är svåra att diagnostisera.
Samordnad trängselhantering
Stora AI-kluster kräver synkroniserad överbelastningshantering för att förhindra paketförluster och underutnyttjande av GPU:er. Samordnad, samtidig hantering och övervakning är också nödvändiga för att optimera beräknings- och nätverksresurser. Kärnan i Aristas lösning är en EOS-baserad agent som möjliggör kommunikation mellan nätverket och värden, koordinerar konfigurationer för att optimera AI-kluster.
Remote AI Agent för förbättrad kontroll
Arista EOS som körs på Arista-switchar kan utökas till direktanslutna nätverkskort och servrar via en fjärransluten AI-agent. Detta möjliggör en enda kontrollpunkt och synlighet över ett AI-datacenter, vilket skapar en enhetlig lösning. Fjärr-AI-agenten, värd på en NVIDIA BlueField-3 SuperNIC eller körs på servern och samlar in telemetri från SuperNIC, tillåter EOS på nätverksswitchen att konfigurera, övervaka och felsöka nätverksproblem på servern. Detta säkerställer end-to-end nätverkskonfiguration och Quality of Service (QoS) konsistens, vilket gör att AI-kluster kan hanteras och optimeras som en sammanhållen lösning.
John McCool, Chief Platform Officer för Arista Networks, sa: "Arista syftar till att förbättra effektiviteten i kommunikationen mellan det upptäckta nätverket och GPU-topologin för att förbättra slutförandet av jobb genom samordnad orkestrering, konfiguration, validering och övervakning av NVIDIA accelerated compute, NVIDIA SuperNICs. , och Arista nätverksinfrastruktur."
Den här nya tekniken belyser hur en Arista EOS-baserad fjärransluten AI-agent tillåter att ett integrerat AI-kluster hanteras som en enda lösning. Genom att utöka EOS-kapaciteten till servrar och SuperNICs via fjärranslutna AI-agenter, säkerställer Arista kontinuerlig spårning och rapportering av prestandaproblem eller fel mellan värdar och nätverk, vilket möjliggör snabb isolering och minimering av påverkan. De EOS-baserade nätverksväxlarna upprätthåller konstant medvetenhet om exakt nätverkstopologi, och utvidgning av EOS till SuperNIC:er och servrar med den fjärranslutna AI-agenten förbättrar koordinerad optimering av end-to-end QoS över alla element i AI Data Center, vilket i slutändan minskar slutförandetiden för jobb .
Nästa upp för Arista Networks
Arista Networks kommer att visa upp AI-agentteknologin vid Arista IPO:s 10-årsjubileum på NYSE den 5 juni, med kundtest som förväntas påbörjas under andra halvan av 2024. Denna demonstration representerar ett viktigt steg mot att uppnå en interoperabel multileverantör ekosystem som möjliggör sömlös kontroll och koordinering mellan AI-nätverk och AI-beräkningsinfrastruktur, vilket möter de växande kraven på AI- och LLM-arbetsbelastningar.
Engagera dig med StorageReview
Nyhetsbrev | Youtube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | Rssflöde
