Na arena de alto risco da IA corporativa, os titãs da tecnologia estão em uma corrida implacável para revelar a próxima inovação significativa em hardware. A Dell Technologies apresentou recentemente o Dell PowerEdge XE9680 para IA generativa e está flexionando-o em um whitepaper recente. O PowerEdge XE9680, projetado explicitamente para lidar com cargas de trabalho de IA, não é apenas um novo participante na corrida – é um candidato à frente em potencial.
Na arena de alto risco da IA corporativa, os titãs da tecnologia estão em uma corrida implacável para revelar a próxima inovação significativa em hardware. A Dell Technologies apresentou recentemente o Dell PowerEdge XE9680 para IA generativa e está flexionando-o em um whitepaper recente. O PowerEdge XE9680, projetado explicitamente para lidar com cargas de trabalho de IA, não é apenas um novo participante na corrida – é um candidato à frente em potencial.
Examinando o whitepaper, vimos como essa potência redefine o cenário da IA e por que ela pode ser apenas a arma secreta da sua empresa para conquistar a fronteira da IA.
Dell PowerEdge XE9680 para IA generativa
A DellPowerEdge XE9680 é um servidor de rack denso em GPU projetado para aplicativos de alto desempenho direcionados aos campos de inteligência artificial. Está equipado com dois processadores Intel Xeon Scalable de 4ª Geração, cada um com até 56 núcleos, e pode ser equipado com oito GPUs NVIDIA HGX H100 ou NVIDIA HGX A100; tudo interconectado com a tecnologia NVIDIA NVLink.
O PowerEdge XE9680 suporta velocidade DIMM de até 4800 MT/s e possui 32 slots DDR5 DIMM, com capacidade máxima de RAM de 4 TB. Ele oferece até 8 unidades SSD NVMe de 2.5 polegadas para armazenamento, com capacidade máxima de 122.88 TB. O servidor também inclui uma variedade de recursos de segurança, como firmware assinado criptograficamente, criptografia de dados em repouso (DRE), inicialização segura e muito mais. Ele é gerenciado por meio do sistema iDRAC9 incorporado e oferece suporte a uma variedade de ferramentas e integrações de gerenciamento. O servidor está alojado em um fator de forma de rack 6U e pesa 235.89 lbs. (107kg).
Especificações do Dell PowerEdge XE9680
O PowerEdge XE9680 foi projetado para lidar com cargas de trabalho de IA com grande volume de memória. Graças ao NVLink, as GPUs obtêm acesso a uma grande quantidade de memória de outras GPUs no sistema, fornecendo acesso de alta velocidade a recursos compartilhados. Essa capacidade significativa de memória deve levar a um desempenho mais alto, a modelos mais complexos e à capacidade de trabalhar com conjuntos de dados maiores e mais detalhados, melhorando a precisão e a utilidade ao alavancar modelos de parâmetros maiores.
Modelo:
Capacidades do processador:
Propriedades físicas:
Suporte de memória:
|
Capacidades de E/S:
Otimização de GPU:
Capacidades de Inteligência Artificial:
Suporte à unidade:
|
Modelos de geração de imagens: a ciência da arte
Já desejou poder pintar como Van Gogh ou esboçar como Da Vinci, mas acabar com bonequinhos que não impressionariam nem um aluno do jardim de infância? Entre no mundo dos Modelos de Geração de Imagem (IGMs), o aprendizado de máquina equivalente a um artista prodigioso, menos as excentricidades e boinas.
IGMs são um subconjunto de modelos de aprendizado de máquina projetados para lidar com a criação de novas imagens. Os IGMs se enquadram no campo mais amplo da modelagem generativa, que trata de entender e replicar padrões de dados. Ainda assim, em vez de gerar números ou texto, esses modelos estão no negócio de criar recursos visuais. Nos últimos meses, os IGMs viraram notícia gerando de tudo, desde novas peças de arte até rostos humanos assustadoramente realistas.
Esses modelos encontraram seu caminho em tudo, desde arte e entretenimento até publicidade e pesquisa científica. Eles estão criando imagens de células para diagnósticos médicos, simulando o espaço sideral e gerando selfies tão realistas que você mesmo pode pescar. À medida que esses modelos evoluem, os requisitos para executá-los rapidamente aumentam.
Dell PowerEdge XE9680 para IA generativa: fortalecendo a borda, da difusão estável
Os métodos de difusão, ao gerar novas imagens durante a inferência, geralmente dependem de clusters de GPU massivos operando em sincronia e requerem tempo de execução de hardware extenso. No entanto, o white paper da Dell revela que, com o servidor Dell PowerEdge XE9680, essas operações generativas de IA podem ser significativamente aceleradas.
Isso permite a produção de dezenas a centenas de imagens razoavelmente resolvidas em apenas alguns segundos. A Dell aponta que, ao aproveitar os recursos do Dell PowerEdge XE9680 para IA generativa, imagens grandes de alta resolução (a Dell usou 2,096 x 2,096) podem ser produzidas a partir de um único prompt de texto em questão de segundos.
XE9680 gerado com prompt de texto = “Retrato de cachorro feliz, close-up”
A whitepaper avalia a latência de geração de imagem para o modelo de texto para imagem HuggingFace Diffusers no servidor PowerEdge XE9680, considerando variações de tamanho de lote e resolução de imagem. O servidor XE9680 pode gerar imagens com resoluções de até 2,048 x 2,048.
À medida que os tamanhos dos lotes aumentavam, também aumentavam as demandas de memória na infraestrutura. Portanto, grandes tamanhos de lote foram alcançados com imagens de resolução mais baixa (como 256 x 256). No entanto, devido a limitações de memória, imagens de resolução muito alta (como 2,048 x 2,048) só poderiam gerar um tamanho de lote de um.
Tempos de geração de imagens em lote do PowerEdge XE9680
O foco na geração de imagens em lote com resoluções de 256 x 256 e 512 x 512 mostra os poderosos recursos do Dell PowerEdge XE9680 para IA generativa, gerando várias imagens em segundos. Esse recurso acelera a avaliação, o ajuste imediato e a avaliação adicional necessária para os ciclos de design criativo. Esses resultados demonstram como lotes de 32 imagens com resolução de 512 x 512 podem ser gerados com o pacote HuggingFace Diffusers no servidor Dell PowerEdge XE9680 em menos de 10 segundos. Além disso, lotes de 64 imagens com resolução de 256 x 256 podem ser criados em menos de 5 segundos com a mesma plataforma, permitindo prototipagem rápida e ciclos de design criativo para empresas e profissionais.
Benchmarks de Geração de Imagens
Na análise do whitepaper, o servidor Dell PowerEdge XE9680 foi avaliado em relação aos benchmarks de latência de geração de imagem definidos pela Lambda. Essa comparação envolveu uma única GPU NVIDIA H100 com 80 GB de RAM no servidor Dell PowerEdge XE9680 e o benchmark NVIDIA H100 GPU Stable Diffusion lançado pela equipe ML Labs na Lambda.
Latência de geração de imagem Dell PowerEdge XE9680
O estudo demonstrou que o XE9680 superou os benchmarks da Lambda, alcançando aproximadamente o dobro da taxa de transferência. As descobertas da Dell são apresentadas no mesmo formato que as da Lambda, usando dados de seu estudo de GPU NVIDIA H100 em condições idênticas definidas por software. A única diferença era o hardware: o Lambda usava uma GPU NVIDIA H100 de fator de forma PCIe, enquanto o servidor Dell PowerEdge XE9680 usava um fator de forma HGX, o que poderia explicar algumas diferenças de desempenho.
Impacto comercial dos modelos de geração de imagens
A geração de imagens por meio da difusão estável capacita profissionais criativos a prototipar e refinar rapidamente seu trabalho, como aumentar a eficiência das estratégias de marketing e publicidade e reduzir o tempo de lançamento no mercado. Profissionais de áreas como arquitetura, publicidade, marketing, criatividade, cinema, efeitos especiais, fotografia e arte já adotaram essa tecnologia.
Tecnologias generativas de IA, como Stable Diffusion, podem trazer mudanças transformadoras nas operações corporativas, especialmente quando a velocidade é crítica. No design e desenvolvimento de produtos, esses modelos podem gerar rapidamente protótipos visuais, permitindo que as equipes de design avaliem e refinem conceitos em tempo real. Isso acelera o processo de design e reduz o tempo de lançamento no mercado.
Um dos conceitos mais interessantes vem do setor de varejo. A IA pode gerar rapidamente imagens realistas de várias configurações de produtos ou opções de cores com base nas preferências do cliente, como “Mostre-me esta cadeira, mas em vermelho” ou “Como ficaria aquele sofá com estampa de oncinha”. Para empresas imobiliárias e de construção, a IA generativa pode criar rapidamente visualizações de novos edifícios ou projetos de reforma, auxiliando no planejamento e nas apresentações de vendas.
No campo de treinamento e educação dentro de uma empresa, imagens geradas por IA podem ser usadas para criar cenários realistas para programas de treinamento de funcionários, aprimorando os resultados de aprendizado. A velocidade de geração de imagens pode melhorar significativamente a agilidade das empresas, permitindo que elas respondam às mudanças do mercado, às necessidades dos clientes e aos requisitos internos com mais eficiência.
Pensamentos de Encerramento
O Dell PowerEdge XE9680 é um servidor de alto desempenho com recursos impressionantes que podem lidar facilmente com cargas de trabalho de IA exigentes (pelo menos por enquanto). Embora o XE9680 seja voltado para o mercado de tendências de IA, pode haver outros casos de uso intrigantes em análises e processamento de dados para uma caixa tão poderosa. Deve-se notar que o XE9680 sustenta Projeto Helix da Dell, um serviço para ajudar as organizações a colocar seus projetos de IA online de maneira mais oportuna.
Envolva-se com a StorageReview
Newsletter | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS feed
