Firma Arista Networks ogłosiła przełomową demonstrację technologiczną, której celem jest stworzenie centrów danych AI, które połączą domeny obliczeniowe i sieciowe w jedną, zarządzaną jednostkę AI. Inicjatywa ta, realizowana we współpracy z firmą NVIDIA, ma na celu zbudowanie optymalnych generatywnych sieci AI, które oferują krótszy czas realizacji zadań, umożliwiając klientom jednolitą konfigurację, zarządzanie i monitorowanie klastrów AI w obrębie kluczowych komponentów, w tym sieci, kart sieciowych i serwerów.
Ujednolicone zarządzanie klastrami AI
Wraz z ciągłym rozwojem klastrów AI i dużych modeli językowych (LLM) znacząco rośnie również złożoność i liczba zaangażowanych komponentów. Należą do nich procesory graficzne (GPU), karty sieciowe (NIC), przełączniki, układy optyczne i kable, które muszą działać spójnie, aby utworzyć kompleksową sieć. Jednolite mechanizmy kontroli zapewniają synchronizację serwerów AI obsługujących karty sieciowe i GPU z przełącznikami sieciowymi AI na różnych poziomach. Brak takiego dopasowania stwarza ryzyko błędnej konfiguracji lub braku dopasowania, szczególnie między kartami sieciowymi a przełącznikami sieciowymi, co może poważnie wpłynąć na ukończenie zadania z powodu trudnych do zdiagnozowania problemów sieciowych.
Skoordynowane zarządzanie zatorami
Duże klastry AI wymagają zsynchronizowanego zarządzania przeciążeniem, aby zapobiegać utracie pakietów i niedostatecznemu wykorzystaniu procesorów graficznych (GPU). Skoordynowane, jednoczesne zarządzanie i monitorowanie są również niezbędne do optymalizacji zasobów obliczeniowych i sieciowych. Sercem rozwiązania Arista jest agent oparty na systemie EOS, który umożliwia komunikację między siecią a hostem, koordynując konfiguracje w celu optymalizacji klastrów AI.
Zdalny agent AI zapewniający lepszą kontrolę
Rozwiązanie Arista EOS działające na przełącznikach Arista można rozszerzyć na bezpośrednio podłączone karty sieciowe i serwery za pośrednictwem zdalnego agenta AI. Zapewnia to pojedynczy punkt kontroli i widoczności w całym centrum danych AI, tworząc ujednolicone rozwiązanie. Zdalny agent AI, hostowany na karcie sieciowej NVIDIA BlueField-3 SuperNIC lub działający na serwerze i zbierający dane telemetryczne z karty SuperNIC, umożliwia systemowi EOS na przełączniku sieciowym konfigurowanie, monitorowanie i debugowanie problemów sieciowych na serwerze. Zapewnia to kompleksową konfigurację sieci i spójność jakości usług (QoS), umożliwiając zarządzanie klastrami AI i ich optymalizację jako spójnego rozwiązania.
John McCool, dyrektor ds. platform w Arista Networks, stwierdził: „Arista dąży do zwiększenia efektywności komunikacji między odkrytą siecią a topologią GPU, aby skrócić czas realizacji zadań dzięki skoordynowanej koordynacji, konfiguracji, walidacji i monitorowaniu akcelerowanych obliczeń NVIDIA, kart NVIDIA SuperNIC i infrastruktury sieciowej Arista”.
Ta nowa technologia pokazuje, jak zdalny agent AI oparty na platformie Arista EOS umożliwia zarządzanie zintegrowanym klastrem AI jako pojedynczym rozwiązaniem. Rozszerzając możliwości platformy EOS na serwery i karty SuperNIC za pośrednictwem zdalnych agentów AI, Arista zapewnia ciągłe śledzenie i raportowanie problemów z wydajnością lub awarii między hostami a sieciami, umożliwiając szybką izolację i minimalizację wpływu. Przełączniki sieciowe oparte na platformie EOS stale monitorują dokładną topologię sieci, a rozszerzenie platformy EOS na karty SuperNIC i serwery za pomocą zdalnego agenta AI usprawnia skoordynowaną optymalizację kompleksowej jakości usług (QoS) we wszystkich elementach centrum danych AI, co ostatecznie skraca czas realizacji zadań.
Następne kroki dla Arista Networks
Arista Networks zaprezentuje technologię agentów AI podczas obchodów 10. rocznicy debiutu giełdowego Arista na NYSE 5 czerwca. Rozpoczęcie testów u klientów planowane jest na drugą połowę 2024 roku. Ta demonstracja stanowi ważny krok w kierunku stworzenia wielodostawczego, interoperacyjnego ekosystemu, który umożliwia płynną kontrolę i koordynację między sieciami AI a infrastrukturą obliczeniową AI, odpowiadając na rosnące wymagania dotyczące obciążeń AI i LLM.
Amazon