Broadcom a lancé sa gamme de commutateurs Jericho4, la positionnant comme le silicium de routage Ethernet le plus avancé disponible pour l'IA évolutive dans les centres de données modernes. Conçu spécifiquement pour répondre aux exigences croissantes des infrastructures d'IA distribuées, Jericho4 offre un débit Ethernet impressionnant de 51.2 Tbit/s sans perte et à mémoire tampon profonde. Ainsi, les charges de travail d'IA peuvent être facilement mises à l'échelle sur des racks, des clusters et même des sites géographiquement éloignés, sans compromettre la fiabilité ni les performances.
IA distribuée
Les modèles d'intelligence artificielle dépassent rapidement la capacité et les limites physiques des centres de données individuels, à mesure qu'ils continuent de croître et de gagner en complexité. La nécessité de répartir les XPU (accélérateurs tels que les GPU et les TPU) sur plusieurs sites, chacun consommant des mégawatts, pose de nouveaux défis réseau. Parmi ces défis figure la nécessité d'une transmission sans perte, à faible latence et à haut débit sur des distances métropolitaines, voire régionales.
Ram Velaga, vice-président senior et directeur général du groupe Core Switching de Broadcom, souligne que l'ère de l'IA exige des solutions réseau capables de prendre en charge des environnements informatiques distribués comptant plus d'un million de XPU. M. Velaga explique que la gamme Jericho4 est conçue pour permettre des structures Ethernet à l'échelle de l'IA qui dépassent les limites des centres de données individuels, prenant en charge le transport RoCE longue distance (RDMA sur Ethernet convergé), un contrôle avancé de la congestion et des interconnexions hautement efficaces.
Points forts et différenciateurs
La famille Jericho4 est conçue pour une évolutivité horizontale dans les centres de données, offrant une gamme de fonctionnalités qui répondent aux besoins spécifiques des charges de travail d'IA.
- Capacité évolutive de 51.2 Tbit/s, tampon profond : La famille Jericho4 offre une capacité de commutation exceptionnelle de 51.2 Tbit/s, parmi les plus élevées du secteur. Ce débit est crucial pour les charges de travail d'IA nécessitant le transfert de volumes de données importants entre des milliers de GPU ou d'accélérateurs. Sa fonctionnalité de « mise en mémoire tampon profonde » lui permet de gérer des rafales de données importantes sans perte de paquets, garantissant ainsi des performances et une fiabilité élevées pour l'entraînement de l'IA distribuée, même en cas de congestion du réseau.
- Interfaces HyperPort 3.2T : HyperPort combine quatre ports Ethernet 800 Gigabit (800GE) en un seul canal de 3.2 térabits par seconde (3.2 T), simplifiant ainsi la conception et la gestion du réseau. Cela réduit le nombre de liaisons nécessaires entre les commutateurs et les serveurs, tout en minimisant la réorganisation des paquets et les inefficacités du réseau. Ainsi, les utilisateurs peuvent accélérer l'exécution des tâches jusqu'à 40 % et améliorer l'utilisation du réseau jusqu'à 70 %, ce qui accélère l'apprentissage des modèles d'IA et optimise l'utilisation des ressources de calcul.
- MACsec à débit linéaire avec plus de 200 XNUMX politiques de sécurité : MACsec (Media Access Control Security) est une norme de chiffrement des données au niveau Ethernet. Le commutateur Jericho4 prend en charge MACsec à débit maximal, permettant ainsi le chiffrement et le déchiffrement sans perte de performances. Avec la prise en charge de plus de 200,000 XNUMX politiques de sécurité, il permet des contrôles de sécurité détaillés, essentiels aux environnements multi-locataires ou « Neo Clouds ». Cela garantit la protection des données d'IA sensibles lors de leur transfert rapide vers de vastes infrastructures partagées.
- Gestion de la congestion de bout en bout et transport sans perte RoCE : Les charges de travail d'IA sont impactées par la congestion du réseau et la perte de paquets, ce qui peut ralentir l'entraînement distribué. L'architecture à mémoire tampon profonde de Jericho4 et sa gestion matérielle de la congestion permettent un transport sans perte grâce à RoCE (RDMA sur Ethernet convergé), garantissant une transmission de données fiable sur des distances supérieures à 100 kilomètres. Ces fonctionnalités sont essentielles pour connecter des centres de données distribués ou des clusters d'IA, garantissant des performances et une fiabilité constantes.
- 40 % de réduction de puissance par bit : L'efficacité énergétique est cruciale à mesure que les centres de données se développent pour prendre en charge des modèles d'IA plus volumineux et un nombre croissant d'utilisateurs. L'architecture de Jericho4 permet de réduire de 40 % la consommation d'énergie par bit de données transmis par rapport aux générations précédentes. Cela réduit les coûts d'exploitation et aide les organisations à atteindre leurs objectifs de développement durable, permettant ainsi la mise à l'échelle de l'infrastructure d'IA sans augmentation significative de la consommation d'énergie.
- SerDes PAM200 4G avec une portée de pointe dans le secteur : La technologie SerDes (sérialiseur/désérialiseur) permet une transmission de données à haut débit sur des liaisons cuivre ou fibre optique. La puce Jericho4 prend en charge la technologie SerDes PAM200 4G, offrant des débits de données plus élevés sur de plus longues distances que les technologies précédentes. Cela permet aux commutateurs et aux serveurs de se connecter sur de grands campus de centres de données ou entre des bâtiments sans compromettre la vitesse ni la fiabilité.
- Consortium Ultra Ethernet Conformité: Le consortium Ultra Ethernet promeut les normes Ethernet pour le calcul haute performance et l'IA. La conformité de Jericho4 garantit une compatibilité parfaite avec les autres appareils Ultra Ethernet, protégeant ainsi les investissements et pérennisant le réseau pour les futures charges de travail d'IA et de cloud.
- Endpoint Agnostique: Jericho4 est compatible avec toutes les cartes réseau (NIC) ou unités XPU, telles que les GPU ou les DPU, utilisant Ethernet. Cette flexibilité permet aux entreprises d'intégrer divers terminaux de calcul et de stockage, prenant en charge diverses architectures d'IA et solutions de fournisseurs, sans se limiter à un seul écosystème.
- Réseautage IA : L'architecture Jericho4 se distingue par sa capacité à gérer des flux de trafic IA persistants et à haut débit. Grâce à la technologie HyperPort, elle élimine les goulots d'étranglement et les inefficacités traditionnels, offrant un débit plus élevé et une latence plus faible pour les réseaux IA évolutifs. Ceci est particulièrement important pour les organisations qui déploient des charges de travail IA sur des campus, des zones métropolitaines et même des zones géographiques plus vastes.
Les déploiements sur le terrain ont démontré la fiabilité et l'efficacité de Jericho4, prenant en charge des conceptions d'IA évolutives sur des distances supérieures à 100 km. Cela fait de Jericho4 une technologie clé pour les infrastructures d'IA distribuées de nouvelle génération.
Un seul système Jericho4 peut évoluer jusqu'à 36,000 3.2 HyperPorts, chacun fonctionnant à 100 Tbit/s, avec une mise en mémoire tampon profonde, un MACsec à débit de ligne et un transport RoCE sur des distances supérieures à XNUMX kilomètres. Les options de déploiement incluent des systèmes basés sur châssis avec des cartes de ligne Jericho, des structures distribuées planifiées (DSF) avec des feuilles Jericho et des spines Ramon, et des systèmes centralisés fixes, tous tirant parti de l'architecture Broadcom à haut radix, à faible latence et à faible consommation d'énergie.
Une partie de la plateforme d'IA Ethernet de bout en bout de Broadcom
Jericho4 est un élément essentiel de la plateforme d'IA Ethernet complète de Broadcom, qui comprend également :
- Tomahawk 6: Commutateur 102.4 Tbps pour la mise à l'échelle et la montée en puissance de l'IA.
- Tomahawk Ultra: Commutateur à faible latence de 51.2 Tbit/s pour la mise à l'échelle du HPC et de l'IA.
- Famille Thor : Cartes réseau Ethernet optimisées par l'IA.
- Produits de la couche physique: Y compris les retimers, les DSP et les optiques co-packagées de troisième génération (CPO).
Ensemble, ces produits offrent une plate-forme ouverte et évolutive pour le développement d’infrastructures d’IA basées sur Ethernet à n’importe quelle échelle, des clusters GPU étroitement interconnectés aux déploiements régionaux.
Compétition
Jericho4 de Broadcom entre sur un marché concurrentiel où les opérateurs de centres de données hyperscale et les fournisseurs d'infrastructures d'IA cherchent à surmonter les limites des solutions InfiniBand et Ethernet traditionnelles. NVIDIA, avec ses commutateurs Ethernet Quantum et Spectrum-X basés sur InfiniBand, reste un acteur dominant dans les réseaux d'IA, notamment pour les clusters de GPU étroitement couplés. Cependant, l'ouverture, l'accessibilité financière et la prise en charge de l'écosystème Ethernet favorisent une transition vers des structures d'IA basées sur Ethernet, notamment pour les déploiements évolutifs et multisites.
D'autres concurrents, comme Cisco et sa gamme Nexus, et Arista Networks, investissent également massivement dans la commutation Ethernet haute performance optimisée pour l'IA. Cependant, l'architecture sans perte et à mémoire tampon profonde de Broadcom, combinée à son leadership en matière d'innovation en matière de silicium et d'intégration d'écosystèmes, confère à Jericho4 une proposition de valeur convaincante, notamment pour les entreprises souhaitant développer une infrastructure d'IA ouverte, évolutive et pérenne.
Consultez la page produit Jericho4 pour plus d'informations.
Amazon