A NVIDIA causou grande impacto no mundo da inteligência artificial (IA) e da computação de alto desempenho com seu último lançamento – o Superchip NVIDIA GH200 Grace Hopper. Esta oferta recente mostrou excelente desempenho nos benchmarks MLPerf, demonstrando as proezas da NVIDIA em nuvem e IA de borda.
Um superchip que fala muito
O Superchip GH200 não é apenas um chip comum. Ele combina exclusivamente uma GPU Hopper com uma CPU Grace, fornecendo maior memória, largura de banda e a capacidade de ajustar automaticamente a potência entre a CPU e a GPU para desempenho máximo. Esta integração inovadora permite que o chip alcance um equilíbrio delicado entre potência e desempenho, garantindo que as aplicações de IA obtenham os recursos de que necessitam, quando precisam deles.
Resultados excepcionais do MLPerf
Os benchmarks MLPerf são um padrão respeitado da indústria e o GH200 da NVIDIA não decepcionou. O superchip não apenas executou todos os testes de inferência do data center, mas também demonstrou a versatilidade da plataforma de IA da NVIDIA, estendendo seu escopo das operações em nuvem até as bordas da rede.
Além disso, as GPUs H100 da NVIDIA também não ficaram para trás. Os sistemas HGX H100, equipados com oito GPUs H100, apresentaram rendimento superior em todos os testes de inferência MLPerf. Isso destaca o imenso potencial e capacidades das GPUs H100, especialmente para tarefas como visão computacional, reconhecimento de fala, imagens médicas, sistemas de recomendação e grandes modelos de linguagem (LLMs).
TensorRT-LLM: Ampliando o desempenho de inferência
A NVIDIA sempre esteve na vanguarda da inovação contínua, e o TensorRT-LLM é uma prova desse legado. Este software de IA generativa aprimora a inferência e é disponibilizado como uma biblioteca de código aberto. Embora não tenha sido submetido ao MLPerf a tempo para a avaliação de agosto, ele se mostra promissor, permitindo que os usuários ampliem o desempenho de suas GPUs H100 sem custos adicionais. Parceiros como Meta, Cohere e Grammarly se beneficiaram dos esforços da NVIDIA para aprimorar a inferência do LLM, reafirmando a importância de tais desenvolvimentos de software no campo da IA.
GPUs L4: unindo servidores convencionais e desempenho
Com os mais recentes benchmarks do MLPerf , as GPUs L4 demonstraram um desempenho notável em uma infinidade de cargas de trabalho. Essas GPUs, quando integradas a aceleradores compactos, apresentaram métricas de desempenho até seis vezes mais eficientes do que CPUs com maior consumo de energia. A introdução de mecanismos de mídia dedicados, em colaboração com o software CUDA, confere à GPU L4 uma vantagem competitiva, especialmente em tarefas de visão computacional.
Expandindo os limites: Edge Computing e muito mais
Os avanços não se limitam apenas à computação em nuvem. O foco da NVIDIA na computação de ponta fica evidente com o sistema em módulo Jetson Orin, que apresenta melhorias de desempenho de até 84% em comparação com suas versões anteriores na detecção de objetos.
MLPerf: um padrão de benchmarking transparente
O MLPerf continua a ser uma referência objetiva na qual usuários em todo o mundo confiam para tomar decisões de compra. A inclusão de gigantes de serviços em nuvem como Microsoft Azure e Oracle Cloud Infrastructure, juntamente com fabricantes de sistemas renomados como Dell, Lenovo e Supermicro, sublinha a importância do MLPerf na indústria.
Concluindo, o desempenho recente da NVIDIA nos benchmarks MLPerf reforça a sua posição de liderança no setor de IA. Com um amplo ecossistema, inovação contínua de software e o compromisso de oferecer desempenho de alta qualidade, a NVIDIA está de fato moldando o futuro da IA.
Para uma análise técnica mais aprofundada das conquistas da NVIDIA, consulte o blog técnico vinculado . Aqueles interessados em replicar o sucesso da NVIDIA em benchmarks podem acessar o software no repositório MLPerf e no hub de software NVIDIA NGC.
Amazon