Na SC24 em Atlanta, a WEKA apresentou a primeira solução de armazenamento de alto desempenho do setor projetada especificamente para o NVIDIA Grace CPU Superchip. Desenvolvida em colaboração com a NVIDIA, Arm e Supermicro, esta solução aproveita o software WEKA Data Platform para fornecer densidade de desempenho e eficiência energética inigualáveis para cargas de trabalho de IA empresarial e computação de alto desempenho (HPC). Ela apresenta núcleos Arm Neoverse V2, NICs NVIDIA ConnectX-7 e SuperNICs BlueField-3, em execução em um servidor de armazenamento Supermicro de ponta para lidar com os crescentes desafios de acesso a dados, espaço e restrições de energia em data centers modernos.
Impulsionando a próxima geração de inovação em IA
O NVIDIA Grace CPU Superchip integra os recursos de um servidor dual-socket x86-64 principal em um único módulo alimentado por 144 núcleos Arm Neoverse V2. Este design oferece 2x a eficiência energética dos servidores x86 tradicionais. Emparelhado com NVIDIA ConnectX-7 NICs e BlueField-3 SuperNICs, oferecendo até 400 Gb/s de throughput, a solução fornece rede de alta velocidade e baixa latência, essencial para cargas de trabalho de IA e HPC. Esses avanços são acoplados à arquitetura de cópia zero da WEKA Data Platform, eliminando gargalos de E/S e reduzindo drasticamente a latência do pipeline de IA.
Combinado com a arquitetura nativa de IA da Plataforma de Dados WEKA, esse recurso permite que as organizações acelerem os fluxos de trabalho de IA em até 10x, reduzindo o tempo até o primeiro token e melhorando a eficiência geral nos pipelines de dados de IA.
A arquitetura de memória LPDDR5X da Grace CPU, com até 1 TB/s de largura de banda de memória, elimina gargalos, garantindo um fluxo de dados contínuo. A WEKA Data Platform, aproveitando a arquitetura distribuída e a tecnologia kernel-bypass, suporta treinamento de modelo mais rápido, tempos de época reduzidos e velocidades de inferência mais altas, tornando-a uma solução ideal para dimensionar cargas de trabalho de IA empresarial.
Esta solução oferece eficiência energética sem precedentes, com a plataforma WEKA aumentando a eficiência da pilha de GPU em 10-50x. Ao reduzir cópias de dados e alavancar a elasticidade da nuvem, a plataforma reduz as pegadas de infraestrutura de dados em 4-7x, cortando a produção de carbono em até 260 toneladas de CO2e por petabyte anualmente e reduzindo os custos de energia em até 10x. Com a eficiência energética do Grace CPU Superchip, as organizações podem atingir metas de sustentabilidade enquanto aumentam o desempenho da IA.
Transformando data centers para IA empresarial
A colaboração da WEKA, NVIDIA, Arm e Supermicro ressalta uma visão compartilhada para criar soluções de alto desempenho e eficiência energética adaptadas para data centers de próxima geração. Nilesh Patel, Chief Product Officer da WEKA, destacou o potencial transformador dessa parceria, enfatizando como a solução acelera as cargas de trabalho de IA e HPC, ao mesmo tempo em que reduz o tempo para insights acionáveis e aborda o crescente consumo de energia do data center.
O servidor de armazenamento Supermicro ARS-121L-NE316R apresenta:
- 16 baias SSD NVMe E5.S Gen3 para armazenamento de alto desempenho.
- Três slots de rede PCIe Gen 5, suportando até duas SuperNICs NVIDIA ConnectX-7 ou BlueField-3 e um adaptador de rede OCP 3.0.
- Um design otimizado para IA, análise de dados e aplicativos de nuvem em hiperescala.
Ivan Goldwasser, Diretor de CPUs de Data Center na NVIDIA, elogiou a solução para integrar perfeitamente o NVIDIA Grace CPU Superchip com a plataforma WEKA para melhorar cargas de trabalho de IA intensivas em dados. Patrick Chiu, Diretor Sênior de Gerenciamento de Produtos de Armazenamento na Supermicro, descreveu o servidor de armazenamento Supermicro ARS-121L-NE316R Petascale como o primeiro servidor otimizado para armazenamento usando o NVIDIA Grace Superchip, personalizado para cargas de trabalho de armazenamento de alto desempenho, como IA, análise de dados e aplicativos de nuvem em hiperescala.
Disponibilidade
A solução de armazenamento WEKA e Supermicro com superchips de CPU NVIDIA Grace estará disponível comercialmente no início de 2025.
Amazon