A Equinix expandiu sua parceria com a NVIDIA e firmou uma nova colaboração com a Together AI para lançar o Equinix Inference Exchange. Projetada como uma arquitetura de inferência de IA distribuída para implantações corporativas, a plataforma visa aproximar as cargas de trabalho de computação dos principais repositórios de dados, usuários finais e aplicativos operacionais. Anunciada juntamente com o Equinix Fabric One no evento Equinix Horizon, a iniciativa combina arquiteturas de hardware corporativas da NVIDIA, a plataforma de modelos de código aberto da Together AI e a infraestrutura global de interconexão da Equinix para solucionar gargalos de latência, soberania de dados e rede.
Abordando a inferência distribuída e a gravidade dos dados
À medida que as iniciativas de IA empresarial passam da validação de protótipos para a produção de alto desempenho, o posicionamento da inferência determina o custo total, a latência de resposta e a conformidade. Aproximar a execução do modelo das fontes de dados reduz o custo de transferência de dados entre nuvens públicas, ao mesmo tempo que proporciona perfis de latência determinísticos. No entanto, gerenciar infraestrutura distribuída em ambientes distintos introduz sobrecarga operacional e complexidade de rede.
A Equinix supera esse obstáculo operacional aproveitando sua infraestrutura de mais de 280 data centers em 77 regiões metropolitanas, 230 pontos de acesso à nuvem e uma rede com mais de 10,500 empresas interconectadas. Com oito dos dez principais fornecedores de modelos de IA e nove das dez principais nuvens de IA já operando nas instalações da Equinix, a plataforma funciona como uma camada de agregação neutra para pipelines de IA distribuídos.
Integração de arquitetura e pilha
A plataforma Equinix Inference Exchange está estruturada em três camadas distintas que abrangem computação, software e infraestrutura física:
A Equinix gerencia a infraestrutura física e de interconexão básica. Isso inclui o fornecimento de energia, recursos avançados de refrigeração líquida, operações de infraestrutura no dia a dia e interconectividade privada com redes, nuvens públicas e plataformas SaaS por meio do Equinix Fabric.
A NVIDIA fornece a camada de computação e validação de referência, oferecendo infraestrutura de IA empresarial projetada para alta taxa de transferência de tokens e custos de inferência reduzidos por consulta.
A Together AI fornece a camada de software de inferência que suporta mais de 200 modelos de código aberto. A plataforma suporta tanto ambientes multilocatários compartilhados para eficiência computacional geral quanto topologias dedicadas de locatário único para cargas de trabalho que exigem capacidade isolada.
Ao rotear o tráfego através do Equinix Fabric, a plataforma reduz as métricas de tempo até o primeiro token (TTFT) para usuários regionais, ao mesmo tempo que estabelece caminhos de peering privados entre o armazenamento local e os endpoints do modelo.
Metas de Implantação Empresarial e Disponibilidade
A plataforma visa três topologias de implantação principais. Para inferência na borda da rede metropolitana, as organizações podem executar modelos em hubs metropolitanos locais, fornecendo respostas de API de baixa latência, mantendo o gerenciamento centralizado e interconexões privadas. Para migração de modelos de código aberto, a arquitetura oferece um caminho simplificado para a transição de APIs proprietárias e fechadas para modelos de código aberto, reduzindo a dependência de fornecedores e aproveitando as infraestruturas de rede existentes. Para IA soberana e exigências de conformidade, o layout distribuído permite que empresas em setores regulamentados mantenham a execução de inferência e o processamento de dados dentro de limites geográficos específicos, ajudando a atender aos rigorosos requisitos de residência e governança de dados.
Líderes da Equinix, NVIDIA e Together AI observaram que a integração estabelece uma estrutura de inferência de alto desempenho e independente de fornecedores, que equilibra o desempenho computacional com a agilidade operacional.
O Equinix Inference Exchange está previsto para ser disponibilizado ao público corporativo no primeiro trimestre de 2027.
Amazon