A AMD apresentou hoje o Helion, um design de referência de rack aberto para IA agente que se baseia em sua plataforma Helios de escala de rack. O Helion vem em duas versões: um rack somente com CPU para hiperescaladores com até 32,768 núcleos Zen 6 dos processadores EPYC Série 9006 de 6ª geração , e um rack empresarial tudo-em-um que combina blades de CPU EPYC com até 16 GPUs Instinct MI350P. A AMD planeja contribuir com a especificação do Helion para o Open Compute Project.
Arquiteturas configuráveis para execução e inferência de agentes densos
Ambas as versões utilizam um rack ORv3 de 21 polegadas e 44U construído com placas de computação modulares padrão compatíveis com OCP, com resfriamento líquido direto ou resfriamento a ar, até 102 Tbps de rede programável e uma pilha de software de código aberto. A versão para hiperescala é exclusiva para CPUs e delega a inferência de modelos para uma infraestrutura de aceleradores separada, que o diagrama da AMD mostra como um rack de CPU Helion emparelhado com um rack de GPU Helios. A versão empresarial coloca blades de CPU e GPU em um único rack, com capacidade de GPU adicionada em pares de servidores MI350P de 8 GPUs.
A AMD constrói o rack de hiperescala com três tipos de nós de CPU, adequados a diferentes classes de agentes. Agentes pessoais são executados em servidores de alta densidade com processadores Venice de 256 núcleos e 400 W; agentes corporativos são executados em servidores balanceados com processadores Venice de 256 núcleos e 600 W; e agentes técnicos são executados em servidores de alto desempenho com processadores Venice de 96 núcleos e alta frequência. Com 256 núcleos por soquete, o limite de 32,768 núcleos resulta em 128 processadores em um único rack.
O rack empresarial utiliza três funções de nó, começando com nós de "sandbox" para agentes, que executam o processador Venice de 256 núcleos e 400 W ou um Venice de 96 núcleos a 5.0 GHz. Os nós de inferência utilizam as GPUs Instinct MI350P, até 16 por rack, com uma potência combinada de 74 petaflops de FP4. Os nós de uso geral utilizam o Venice em SP7 ou SP8 para tarefas de banco de dados e armazenamento, ou o Venice-X para computação técnica. Um roteador de tokens integrado direciona as chamadas de modelo dos agentes entre modelos de fronteira e de código aberto.
Esses processadores coincidem com os modelos Venice detalhados pela AMD em julho: o EPYC 9996 e o EPYC 9956 de 256 núcleos, sendo o 9956 com potência nominal de 400W, e o EPYC 9686F de alta frequência com 96 núcleos. Para GPUs, a AMD lista um modelo Venice de alta frequência com memória RDIMM ou MRDIMM, juntamente com o Verano , o processador host Zen 6 de baixo consumo baseado em memória LPDDR, que a AMD planejou para o segundo semestre de 2027.
“A IA com agentes não é uma carga de trabalho única”, disse Dan McNamara, vice-presidente sênior e gerente geral de Computação e IA Empresarial da AMD. McNamara afirmou que a AMD está reunindo o desempenho do EPYC, software aberto e designs de rack flexíveis para que os clientes possam implantar sistemas que atendam às suas cargas de trabalho com agentes.
Desenvolvimento do Projeto de Referência do Ecossistema
A AMD afirma que as configurações do Helion estão em desenvolvimento com parceiros do ecossistema e têm previsão de lançamento para novembro de 2026. A AMD não divulgou dados de consumo de energia por rack, número de nós para a versão hiperescalável ou preços. MiTAC, Inventec, ASUS, ASRock Rack e GIGABYTE também constam na lista de parceiros do Helion da AMD, e os parceiros abaixo anunciaram planos para o Helion juntamente com a AMD:
- Cisco: Jeremy Foster, vice-presidente sênior e gerente geral da Cisco Compute, afirma que a IA ativa está mudando o que os clientes precisam de sua infraestrutura e destaca a conectividade, o gerenciamento e a segurança em todo o sistema.
- Tecnologias Dell: A Dell oferecerá suporte ao Helion no Dell PowerRack, com extensões para PowerRack para redes e armazenamento. Arun Narayanan, vice-presidente sênior de Computação e Redes, o define como “um caminho completo e validado para implantar computação orientada a agentes em escala”.
- Grupo tecnológico Hon Hai (Foxconn): A Hon Hai cita a integração de sistemas em nível de rack e a fabricação global para implantações em hiperescala e corporativas.
- HPE: Com base no recente acordo com o cliente para a implementação do Helios, a HPE afirma que continuará a promover padrões abertos com a AMD, incluindo redes com refrigeração a ar e refrigeração líquida direta.
- Lenovo: A Lenovo integra o Helion à sua oferta Lenovo Hybrid AI Advantage.
- QCT: O presidente Mike Yang afirma que o projeto aberto oferece à QCT flexibilidade para adaptar as configurações de computação.
- Supermicro: A Supermicro lançará o Helion no mercado como uma arquitetura em escala de rack compatível com ORv3 por meio de suas Soluções de Blocos de Construção para Data Center (DCBBS).
- Wiwynn: O presidente e CEO William Lin descreve a Helion como "uma base aberta e flexível para infraestrutura de IA ativa".
Amazon