AMD는 오늘 자사의 헬리오스 랙 스케일 플랫폼을 기반으로 하는 에이전트형 AI용 오픈 랙 레퍼런스 디자인인 헬리온을 발표했습니다 . 헬리온은 두 가지 버전으로 제공됩니다. 하나는 6세대 EPYC 9006 시리즈 프로세서의 최대 32,768개 Zen 6 코어를 탑재한 하이퍼스케일러용 CPU 전용 랙이고, 다른 하나는 EPYC CPU 블레이드와 최대 16개의 Instinct MI350P GPU를 결합한 올인원 엔터프라이즈 랙입니다. AMD는 헬리온 사양을 오픈 컴퓨트 프로젝트(Open Compute Project)에 제출할 예정입니다.
고밀도 에이전트 실행 및 추론을 위한 구성 가능한 아키텍처
두 버전 모두 OCP 규격을 준수하는 표준 모듈형 컴퓨팅 보드를 기반으로 구축된 21인치 ORv3 44OU 랙을 사용하며, 직접 액체 냉각 또는 공랭식 냉각, 최대 102Tbps의 프로그래밍 가능한 네트워킹, 그리고 오픈 소스 소프트웨어 스택을 제공합니다. 하이퍼스케일 버전은 CPU 전용이며, 모델 추론은 별도의 가속기 인프라에서 처리합니다. AMD의 다이어그램에서는 이를 Helion CPU 랙과 Helios GPU 랙의 조합으로 보여줍니다. 엔터프라이즈 버전은 CPU와 GPU 블레이드를 하나의 랙에 탑재하고, 8개의 GPU를 탑재한 MI350P 서버 두 대를 추가하여 GPU 용량을 확장합니다.
AMD는 에이전트 클래스에 맞춰 세 가지 유형의 CPU 노드를 사용하여 하이퍼스케일 랙을 구성합니다. 개인용 에이전트는 400W의 256코어 베니스 프로세서가 탑재된 고밀도 서버에서 실행되고, 기업용 에이전트는 600W의 256코어 베니스 프로세서가 탑재된 균형 서버에서 실행되며, 기술용 에이전트는 96코어 고주파수 베니스 프로세서가 탑재된 고성능 서버에서 실행됩니다. 소켓당 256코어를 기준으로 최대 32,768코어까지 지원하며, 이는 단일 랙에 128개의 프로세서를 장착할 수 있음을 의미합니다.
엔터프라이즈 랙은 세 가지 노드 역할을 수행합니다. 에이전트 "샌드박스" 노드는 고밀도 256코어, 400W Venice 또는 5.0GHz 96코어 Venice를 실행하며, 추론 노드는 Instinct MI350P GPU를 탑재합니다. 랙당 최대 16개의 GPU가 사용되며, FP4 연산에서 총 74페타플롭스의 성능을 제공합니다. 범용 노드는 데이터베이스 및 스토리지 작업에는 SP7 또는 SP8 버전의 Venice를, 기술 컴퓨팅에는 Venice-X를 사용합니다. 통합 토큰 라우터는 에이전트의 모델 호출을 프론티어 모델과 오픈소스 모델 간에 전달합니다.
이러한 제품들은 AMD가 7월에 공개한 베니스(Venice) 제품군과 일치합니다. 여기에는 256코어 EPYC 9996과 EPYC 9956(9956은 400W 정격), 그리고 고주파수 96코어 EPYC 9686F가 포함됩니다. GPU 호스트 노드의 경우, AMD는 RDIMM 또는 MRDIMM 메모리를 사용하는 고주파수 베니스 제품군과 LPDDR 메모리 기반의 저전력 Zen 6 호스트 프로세서인 베라노 (Verano)를 함께 공개했는데 , 베라노는 AMD가 2027년 하반기에 출시할 예정입니다.
AMD의 컴퓨팅 및 엔터프라이즈 AI 부문 수석 부사장 겸 총괄 책임자인 댄 맥나마라는 "에이전트 AI는 단일 워크로드가 아닙니다."라고 말했습니다. 맥나마라는 AMD가 EPYC의 성능, 개방형 소프트웨어, 유연한 랙 설계를 결합하여 고객이 에이전트 워크로드에 맞는 시스템을 구축할 수 있도록 지원한다고 밝혔습니다.
생태계 참조 설계 개발
AMD는 헬리온(Helion) 구성이 에코시스템 파트너들과 함께 개발 중이며 2026년 11월에 출시될 예정이라고 밝혔습니다. AMD는 랙당 전력 소비량, 하이퍼스케일 버전의 노드 수 또는 가격은 공개하지 않았습니다. MiTAC, Inventec, ASUS, ASRock Rack, GIGABYTE 또한 AMD의 헬리온 파트너 목록에 포함되어 있으며, 아래 파트너사들은 AMD와 함께 헬리온 관련 계획을 발표했습니다.
- 시스코: 시스코 컴퓨트의 수석 부사장 겸 총괄 매니저인 제레미 포스터는 에이전트형 AI가 고객이 인프라에서 필요로 하는 것을 변화시키고 있다고 말하며, 시스템 전반의 연결성, 관리 및 보안을 강조합니다.
- Dell 기술 : Dell은 PowerRack에서 Helion을 지원하며, 네트워킹 및 스토리지용 PowerRack 확장 기능도 제공할 예정입니다. 컴퓨팅 및 네트워킹 부문 수석 부사장인 Arun Narayanan은 이를 "대규모 에이전트 기반 컴퓨팅을 배포하기 위한 완벽하고 검증된 경로"라고 평가했습니다.
- 혼하이 테크놀로지 그룹(폭스콘): Hon Hai는 하이퍼스케일 및 엔터프라이즈 구축을 위해 랙 수준 시스템 통합과 글로벌 제조를 강점으로 꼽습니다.
- HPE: HPE는 최근 헬리오스(Helios) 배포를 위한 고객 계약을 기반으로 AMD와 함께 공랭식 및 직접 액체 냉각 네트워킹을 포함한 개방형 표준을 지속적으로 발전시켜 나갈 것이라고 밝혔습니다.
- 레노버 : 레노버는 헬리온을 자사의 레노버 하이브리드 AI 어드밴티지 솔루션에 통합했습니다.
- QCT: 마이크 양 사장은 개방형 설계도가 QCT에 컴퓨팅 구성을 맞춤 설정할 수 있는 유연성을 제공한다고 말합니다.
- 슈퍼마이크로: Supermicro는 자사의 데이터 센터 빌딩 블록 솔루션(DCBBS)을 통해 ORv3 규격을 준수하는 랙 규모 아키텍처인 Helion을 시장에 출시할 예정입니다.
- 위윈: 사장 겸 CEO인 윌리엄 린은 헬리온을 "에이전트 기반 AI 인프라를 위한 개방적이고 유연한 기반"이라고 부릅니다.
아마존