Arista Networks anunciou uma demonstração de tecnologia inovadora para criar data centers de IA que alinham domínios de computação e rede em uma única entidade de IA gerenciada. Esta iniciativa, realizada em colaboração com a NVIDIA, busca construir redes de IA generativas ideais que ofereçam tempos de conclusão de trabalho mais curtos, permitindo que os clientes configurem, gerenciem e monitorem clusters de IA de maneira uniforme em componentes críticos, incluindo redes, NICs e servidores.
Gerenciamento unificado para clusters de IA
À medida que os clusters de IA e os grandes modelos de linguagem (LLMs) continuam a expandir-se, a complexidade e o número de componentes envolvidos também aumentam significativamente. Esses componentes incluem GPUs, NICs, switches, ópticas e cabos, que devem funcionar de forma coesa para formar uma rede abrangente. Os controles uniformes garantem que os servidores de IA que hospedam NICs e GPUs estejam sincronizados com os switches de rede de IA em vários níveis. Sem esse alinhamento, existe o risco de configuração incorreta ou desalinhamento, especialmente entre NICs e switches de rede, o que pode afetar gravemente a conclusão do trabalho devido a problemas de rede difíceis de diagnosticar.
Gestão Coordenada de Congestionamento
Grandes clusters de IA exigem gerenciamento sincronizado de congestionamento para evitar quedas de pacotes e subutilização de GPUs. O gerenciamento e o monitoramento coordenados e simultâneos também são necessários para otimizar os recursos de computação e de rede. No centro da solução da Arista está um agente baseado em EOS que permite a comunicação entre a rede e o host, coordenando configurações para otimizar clusters de IA.
Agente remoto de IA para controle aprimorado
O Arista EOS executado em switches Arista pode ser estendido para NICs e servidores conectados diretamente por meio de um agente de IA remoto. Isso permite um único ponto de controle e visibilidade em um data center de IA, criando uma solução unificada. O agente remoto de IA, hospedado em um NVIDIA BlueField-3 SuperNIC ou executado no servidor e coletando telemetria do SuperNIC, permite que o EOS no switch de rede configure, monitore e depure problemas de rede no servidor. Isso garante configuração de rede ponta a ponta e consistência de qualidade de serviço (QoS), permitindo que clusters de IA sejam gerenciados e otimizados como uma solução coesa.
John McCool, diretor de plataforma da Arista Networks, declarou: “A Arista visa melhorar a eficiência da comunicação entre a rede descoberta e a topologia de GPU para melhorar os tempos de conclusão do trabalho por meio de orquestração, configuração, validação e monitoramento coordenados de computação acelerada NVIDIA, NVIDIA SuperNICs e infraestrutura de rede Arista.”
Esta nova tecnologia destaca como um agente remoto de IA baseado em Arista EOS permite que um cluster de IA integrado seja gerenciado como uma solução única. Ao estender os recursos EOS a servidores e SuperNICs por meio de agentes remotos de IA, a Arista garante rastreamento e relatórios contínuos de problemas de desempenho ou falhas entre hosts e redes, permitindo rápido isolamento e minimização de impactos. Os switches de rede baseados em EOS mantêm um conhecimento constante da topologia de rede precisa e estendem o EOS para SuperNICs e servidores com o agente remoto de IA, melhorando a otimização coordenada da QoS de ponta a ponta em todos os elementos do Data Center de IA, reduzindo, em última análise, os tempos de conclusão do trabalho. .
Próximo passo para Arista Networks
A Arista Networks apresentará a tecnologia de agente de IA na comemoração do 10º aniversário do IPO da Arista na NYSE em 5 de junho, com testes de clientes previstos para começar no segundo semestre de 2024. Esta demonstração representa um passo significativo para alcançar um sistema interoperável e multifornecedor. ecossistema que permite controle e coordenação perfeitos entre redes de IA e infraestrutura de computação de IA, atendendo às crescentes demandas de cargas de trabalho de IA e LLM.
Amazon