Arista Networks a annoncé une démonstration technologique révolutionnaire pour créer des centres de données IA qui alignent les domaines de calcul et de réseau en une seule entité IA gérée. Cette initiative, entreprise en collaboration avec NVIDIA, vise à créer des réseaux d'IA génératifs optimaux qui offrent des délais d'exécution des tâches plus courts en permettant aux clients de configurer, gérer et surveiller uniformément les clusters d'IA sur les composants critiques, notamment les réseaux, les cartes réseau et les serveurs.
Gestion unifiée pour les clusters d'IA
À mesure que les clusters d’IA et les grands modèles de langage (LLM) continuent de se développer, la complexité et le nombre de composants impliqués augmentent également de manière significative. Ces composants comprennent des GPU, des cartes réseau, des commutateurs, des optiques et des câbles, qui doivent fonctionner de manière cohérente pour former un réseau complet. Des contrôles uniformes garantissent que les serveurs IA hébergeant des cartes réseau et des GPU sont synchronisés avec les commutateurs réseau IA sur différents niveaux. Sans cet alignement, il existe un risque de mauvaise configuration ou de mauvais alignement, en particulier entre les cartes réseau et les commutateurs réseau, ce qui peut avoir de graves conséquences sur l'achèvement des tâches en raison de problèmes de réseau difficiles à diagnostiquer.
Gestion coordonnée des embouteillages
Les grands clusters d'IA nécessitent une gestion synchronisée de la congestion pour éviter les pertes de paquets et la sous-utilisation des GPU. Une gestion et une surveillance coordonnées et simultanées sont également nécessaires pour optimiser les ressources de calcul et de réseau. Au cœur de la solution d'Arista se trouve un agent basé sur EOS permettant la communication entre le réseau et l'hôte, coordonnant les configurations pour optimiser les clusters d'IA.
Agent IA à distance pour un contrôle amélioré
L'Arista EOS exécuté sur les commutateurs Arista peut être étendu aux cartes réseau et aux serveurs directement connectés via un agent IA distant. Cela permet un point de contrôle et de visibilité unique sur un centre de données IA, créant ainsi une solution unifiée. L'agent IA distant, hébergé sur une SuperNIC NVIDIA BlueField-3 ou exécuté sur le serveur et collectant la télémétrie de la SuperNIC, permet à EOS sur le commutateur réseau de configurer, surveiller et déboguer les problèmes de réseau sur le serveur. Cela garantit la configuration du réseau de bout en bout et la cohérence de la qualité de service (QoS), permettant aux clusters d'IA d'être gérés et optimisés en tant que solution cohérente.
John McCool, directeur de la plate-forme pour Arista Networks, a déclaré : « Arista vise à améliorer l'efficacité de la communication entre le réseau découvert et la topologie GPU afin d'améliorer les délais d'exécution des tâches grâce à une orchestration, une configuration, une validation et une surveillance coordonnées du calcul accéléré NVIDIA et des SuperNIC NVIDIA. et l'infrastructure réseau Arista.
Cette nouvelle technologie met en évidence comment un agent d'IA distant basé sur Arista EOS permet de gérer un cluster d'IA intégré comme une solution unique. En étendant les capacités EOS aux serveurs et aux SuperNIC via des agents IA distants, Arista assure un suivi et un reporting continus des problèmes de performances ou des pannes entre les hôtes et les réseaux, permettant une isolation rapide et une minimisation des impacts. Les commutateurs réseau basés sur EOS maintiennent une connaissance constante de la topologie réseau précise, et l'extension d'EOS aux SuperNIC et aux serveurs avec l'agent IA distant améliore l'optimisation coordonnée de la QoS de bout en bout sur tous les éléments du centre de données IA, réduisant ainsi les délais d'exécution des tâches. .
Prochaine étape pour les réseaux Arista
Arista Networks présentera la technologie d'agent IA lors de la célébration du 10e anniversaire de l'introduction en bourse d'Arista au NYSE le 5 juin, les essais clients devant commencer au second semestre 2024. Cette démonstration représente une étape importante vers la réalisation d'un système multifournisseur et interopérable. écosystème qui permet un contrôle et une coordination transparents entre le réseautage IA et l’infrastructure de calcul IA, répondant aux demandes croissantes des charges de travail IA et LLM.
Amazon