A NVIDIA anunciou as especificações para seus servidores rack de arquitetura aberta Vera Rubin NVL144 da geração MGX. Mais de 50 parceiros MGX estão se preparando para este lançamento, juntamente com o suporte do ecossistema para NVIDIA Kyber, que conecta 576 GPUs Rubin Ultra e foi desenvolvido para atender às crescentes demandas de inferência.
Em setembro, a NVIDIA anunciou uma parceria ampliada com a Intel . Enquanto isso, a Intel anunciou seus novos processadores Xeon 6, sendo um deles a CPU principal da NVIDIA DGX B300, a mais recente geração de sistemas acelerados por IA da empresa. A NVIDIA DGX B300 integra o Intel Xeon 6776P, que desempenha um papel vital no gerenciamento, orquestração e suporte do sistema acelerado por IA. Com robusta capacidade de memória e largura de banda, o Xeon 6776P atende às crescentes necessidades de modelos e conjuntos de dados de IA.
O Xeon 6776P foi projetado como uma CPU "host de GPU" com Priority Core Turbo (PCT) e Intel Speed Select-Turbo Frequency (SST-TF), permitindo que um pequeno conjunto de núcleos possa acelerar mais e lidar com orquestração sensível à latência, enquanto outros núcleos operam em clocks base. Isso ajuda a melhorar a utilização efetiva da GPU em clusters NVLink, reduzindo paradas no pré-processamento, no manuseio do cache KV e no agendamento.
Vera Rubin NVL144: Projetado para escalar em fábricas de IA
A bandeja de computação Vera Rubin NVL144 MGX apresenta um design modular, totalmente refrigerado a líquido e com baixo consumo de energia. Sua placa de circuito impresso central substitui as conexões de cabos convencionais, permitindo uma montagem mais rápida e uma manutenção mais fácil. Ela também inclui baias de expansão modulares para redes NVIDIA ConnectX-9 de 800 GB/s e NVIDIA Rubin CPX, suportando tarefas de inferência em larga escala.
O NVIDIA Vera Rubin NVL144 representa um avanço significativo na arquitetura de computação acelerada e nos recursos de IA. Ele foi projetado para oferecer suporte a mecanismos de raciocínio avançados e atender às necessidades de agentes de IA.
O design principal é baseado na arquitetura de rack MGX e contará com o suporte de mais de 50 parceiros de sistemas e componentes MGX. A NVIDIA pretende contribuir com as inovações aprimoradas em rack e bandeja de computação como um padrão aberto para o consórcio OCP.
Seus padrões para bandejas e racks de computação permitem que os parceiros montem sistemas modulares e escalem mais rapidamente com a arquitetura. O design do rack Vera Rubin NVL144 apresenta resfriamento líquido de 45 °C com eficiência energética, um novo barramento refrigerado a líquido para melhor desempenho e 20 vezes mais armazenamento de energia para manter a potência consistente.
Os aprimoramentos do MGX para a arquitetura de bandeja e rack de computação melhoram o desempenho da fábrica de IA e facilitam a montagem, permitindo uma rápida expansão para uma infraestrutura de IA de nível gigawatt.
Ecossistema NVIDIA NVLink Fusion se expande
Além do hardware, o NVIDIA NVLink Fusion está ganhando força, permitindo que as empresas integrem perfeitamente seu silício semipersonalizado em uma arquitetura de data center altamente otimizada e amplamente implantada, reduzindo a complexidade e acelerando o tempo de colocação no mercado.
A Intel e a Samsung Foundry estão se juntando ao ecossistema NVLink Fusion, que abrange designers de silício personalizados, parceiros de CPU e IP, permitindo que fábricas de IA escalem e gerenciem rapidamente cargas de trabalho intensivas para treinamento de modelos e inferência de IA de agente.
- Como parte do recentemente anunciado Colaboração entre NVIDIA e Intel, A Intel criará CPUs x86 que se integrarão às plataformas de infraestrutura da NVIDIA usando o NVLink Fusion.
- A Samsung Foundry fez uma parceria com a NVIDIA para atender à crescente demanda por CPUs e XPUs personalizadas, oferecendo uma experiência do design à fabricação de silício personalizado.
Rack NVIDIA Kyber
Mais de 20 parceiros do setor estão apresentando novos silícios, componentes, sistemas de energia e suporte para data centers de corrente contínua (VDC) de 800 volts de próxima geração. Esses data centers, projetados para a era do gigawatt, suportarão a arquitetura de rack Kyber da NVIDIA.
A Foxconn compartilhou detalhes sobre seu data center de 40 megawatts em Taiwan, o Kaohsiung-1, que está sendo construído para a era de 800 VCC. Outros líderes do setor, incluindo CoreWeave, Lambda, Nebius, Oracle Cloud Infrastructure e Together AI, também estão planejando data centers com infraestrutura de 800 volts em mente. Além disso, a Vertiv apresentou sua arquitetura de referência MGX de 800 VCC, uma solução projetada para otimizar espaço, custo e eficiência energética, ao mesmo tempo em que oferece uma infraestrutura completa de energia e refrigeração. Enquanto isso, a HPE oferece suporte a produtos para a tecnologia de escalonamento horizontal NVIDIA Kyber e NVIDIA Spectrum-XGS Ethernet, ambas partes integrantes da plataforma Spectrum-X Ethernet.
A migração dos sistemas trifásicos convencionais de 415 ou 480 VCA para uma infraestrutura de 800 VCC oferece maior escalabilidade, maior eficiência energética, menor consumo de materiais e melhor desempenho em data centers. Os setores de veículos elétricos e energia solar já implementaram a infraestrutura de 800 VCC para alcançar esses benefícios.
Geração de servidores NVIDIA Kyber Rack
O ecossistema OCP também está se preparando para o NVIDIA Kyber, que apresenta inovações em fornecimento de energia de 800 VCC, resfriamento líquido e design mecânico.
Essas inovações facilitarão a transição para a geração de servidores em rack NVIDIA Kyber, o sucessor do NVIDIA Oberon, que deverá apresentar uma plataforma de alta densidade com 576 GPUs NVIDIA Rubin Ultra até 2027.
A melhor abordagem para lidar com os desafios da distribuição de alta potência é aumentar a tensão. Mudar de um sistema trifásico padrão de 415 ou 480 VCA para um sistema de 800 VCC oferece diversas vantagens.
A transição em andamento permite que parceiros de servidores em rack atualizem seus componentes de rack de 54 VCC para 800 VCC, aprimorando o desempenho. No evento, um ecossistema colaborativo de provedores de infraestrutura de corrente contínua, parceiros de sistemas de energia e refrigeração e fabricantes de silício trabalharam juntos em padrões abertos para a arquitetura de referência do servidor em rack MGX.
O NVIDIA Kyber visa aumentar a densidade de GPUs em racks, aprimorar a capacidade da rede e otimizar o desempenho de sistemas de IA de grande escala. Ele apresenta montagem vertical de blades de computação, suportando até 18 blades por chassi. Além disso, os blades de switch NVLink especializados da NVIDIA são posicionados na parte traseira por meio de um plano intermediário sem cabos, facilitando a conectividade de rede contínua e escalável.
Mais de 150% a mais de energia é transmitida pelo mesmo cobre com 800 VCC, eliminando a necessidade de barras de cobre de 200 kg para alimentar um único rack.
O Kyber está pronto para se tornar um componente essencial dos data centers de IA em hiperescala, aumentando o desempenho, a eficiência e a confiabilidade para tarefas avançadas de IA generativa. Os racks NVIDIA Kyber permitem que os clientes reduzam significativamente o consumo de cobre, resultando em milhões de dólares em economia de custos.
Escalando a próxima geração de fábricas de IA
Mais de 20 parceiros da NVIDIA estão ajudando a fornecer servidores em rack com padrões abertos, possibilitando futuras fábricas de IA de gigawatts.
- Provedores de silício: Dispositivos analógicos, Inc. (ADI), AOS, EPC, Infineon, Innoscience, MPS, Navitas, onsemi, Power Integrations, Renesas, Richtek, ROHM, STMicroelectronics e Texas Instruments
- Fornecedores de componentes de sistemas de energia: Bizlink, Delta, Flexível, GE Vernova, Lead Wealth, LITEON e Megmeet
- Provedores de sistemas de energia para data centers: ABB, Eaton, GE Vernova, Heron Power, Hitachi Energia, Mitsubishi Electric, Schneider Electric, Siemens e Vertiv
A NVIDIA é uma das principais contribuidoras para os padrões OCP em diversas gerações de hardware, incluindo partes essenciais do projeto eletromecânico do sistema NVIDIA GB200 NVL72. O mesmo formato de rack MGX é compatível com o GB300 NVL72 e também com os modelos Vera Rubin NVL144, Vera Rubin NVL144 CPX e Vera Rubin CPX, proporcionando maior desempenho e implantações mais rápidas.
Amazon