브로드컴(Broadcom)은 Jericho4 스위치 제품군을 출시하며, 최신 데이터센터 전반의 스케일아웃 AI에 사용 가능한 최첨단 이더넷 라우팅 칩으로 포지셔닝하고 있습니다. 분산형 AI 인프라의 증가하는 수요를 충족하도록 특별히 설계된 Jericho4는 51.2Tbps의 무손실 딥 버퍼링 이더넷을 제공합니다. 따라서 안정성이나 성능 저하 없이 랙, 클러스터, 심지어 지리적으로 분산된 위치에도 AI 워크로드를 쉽게 확장할 수 있습니다.
분산 AI
인공지능 모델은 지속적으로 성장하고 복잡해짐에 따라 개별 데이터 센터의 용량과 물리적 한계를 빠르게 뛰어넘고 있습니다. GPU 및 TPU와 같은 가속기인 XPU를 여러 시설에 분산해야 하는 필요성으로 인해 추가적인 네트워킹 과제가 발생했으며, 각 시설은 메가와트의 전력을 소모합니다. 여기에는 대도시는 물론 지역 간 거리까지 무손실, 저지연, 고대역폭 전송이 필요합니다.
브로드컴 코어 스위칭 그룹 수석 부사장 겸 총괄 매니저인 램 벨라가는 AI 시대에는 백만 개 이상의 XPU를 갖춘 분산 컴퓨팅 환경을 지원할 수 있는 네트워킹 솔루션이 필요하다고 강조했습니다. 벨라가는 Jericho4 제품군이 개별 데이터센터의 경계를 넘어 장거리 RoCE(RDMA over Converged Ethernet) 전송, 고급 혼잡 제어, 그리고 고효율 상호 연결을 지원하는 AI 스케일 이더넷 패브릭을 구현하도록 설계되었다고 설명했습니다.
하이라이트 및 차별화 요소
Jericho4 제품군은 데이터 센터 전반에 걸친 확장을 위해 구축되어 AI 워크로드의 특정 요구 사항을 충족하는 다양한 기능을 제공합니다.
- 51.2 Tbps 확장 가능, 딥 버퍼링 용량: Jericho4 제품군은 업계 최고 수준인 51.2Tbps의 놀라운 스위칭 용량을 제공합니다. 이러한 처리량은 수천 개의 GPU 또는 가속기 간에 대용량 데이터를 이동해야 하는 AI 워크로드에 매우 중요합니다. "딥 버퍼링" 기능을 통해 패킷 손실 없이 대량의 데이터 버스트를 관리하여 네트워크 혼잡 상황에서도 분산 AI 학습의 높은 성능과 안정성을 보장합니다.
- 3.2T HyperPort 인터페이스: HyperPort는 800개의 800기가비트 이더넷(3.2GE) 포트를 단일 3.2테라비트/초(40T) 채널로 결합하여 네트워크 설계 및 관리를 간소화합니다. 이를 통해 스위치와 서버 간 필요한 링크 수를 줄이는 동시에 패킷 재정렬 및 네트워크 비효율성을 최소화합니다. 결과적으로 사용자는 최대 70% 빠른 작업 완료 속도와 최대 XNUMX% 향상된 네트워크 활용도를 달성하여 AI 모델 학습 속도를 높이고 컴퓨팅 리소스를 더욱 효율적으로 사용할 수 있습니다.
- 200K+ 보안 정책을 갖춘 라인 속도 MACsec: MACsec(Media Access Control Security)은 이더넷 계층에서 데이터를 암호화하는 표준입니다. Jericho4 스위치는 최대 회선 속도로 MACsec을 지원하여 성능 저하 없이 암호화 및 복호화를 지원합니다. 200,000만 개 이상의 보안 정책을 지원하여 멀티테넌트 환경 또는 "네오 클라우드"에 필수적인 세부적인 보안 제어를 가능하게 합니다. 이를 통해 대규모 공유 인프라를 통해 빠르게 이동하는 민감한 AI 데이터를 안전하게 보호할 수 있습니다.
- 종단 간 혼잡 관리 및 RoCE 무손실 전송: AI 워크로드는 네트워크 혼잡 및 패킷 손실의 영향을 받으며, 이는 분산 학습 속도를 저하시킬 수 있습니다. Jericho4의 딥 버퍼링 아키텍처와 하드웨어 기반 혼잡 관리 기능은 RoCE(RDMA over Converged Ethernet)를 통한 무손실 전송을 지원하여 100km 이상의 거리에서도 안정적인 데이터 전송을 보장합니다. 이러한 기능은 분산 데이터 센터 또는 AI 클러스터를 연결하여 일관된 성능과 안정성을 제공하는 데 필수적입니다.
- 비트당 40% 전력 감소: 데이터 센터가 더 큰 AI 모델과 더 많은 사용자를 지원하도록 확장됨에 따라 에너지 효율성은 매우 중요합니다. Jericho4의 아키텍처는 이전 세대 대비 전송되는 데이터 비트당 전력 소비를 40% 절감합니다. 이를 통해 운영 비용을 절감하고 조직의 지속 가능성 목표를 달성하는 데 도움이 되며, 에너지 사용량을 크게 늘리지 않고도 AI 인프라를 확장할 수 있습니다.
- 업계 최고 도달 범위를 갖춘 200G PAM4 SerDes: SerDes(Serializer/Deserializer) 기술은 구리선 또는 광섬유 회선을 통한 고속 데이터 전송을 가능하게 합니다. Jericho4 칩은 200G PAM4 SerDes를 지원하여 이전 기술보다 더 먼 거리에서 더 빠른 데이터 전송 속도를 제공합니다. 이를 통해 스위치와 서버는 속도나 안정성 저하 없이 대규모 데이터 센터 캠퍼스 또는 건물 간에 연결할 수 있습니다.
- 울트라 이더넷 컨소시엄 규정 준수: Ultra Ethernet Consortium은 고성능 컴퓨팅 및 AI를 위한 이더넷 표준을 장려합니다. Jericho4는 이러한 표준을 준수하여 다른 Ultra Ethernet 장치와의 원활한 호환성을 보장하여 투자를 보호하고 향후 AI 및 클라우드 워크로드에 대비한 미래 지향적인 네트워크를 구축합니다.
- 종점 불가지론자: Jericho4는 이더넷을 사용하는 모든 네트워크 인터페이스 카드(NIC) 또는 XPU(예: GPU, DPU)와 호환됩니다. 이러한 유연성 덕분에 기업은 다양한 컴퓨팅 및 스토리지 엔드포인트를 통합하여 하나의 생태계에 갇히지 않고 다양한 AI 아키텍처와 공급업체 솔루션을 지원할 수 있습니다.
- AI 네트워킹: Jericho4 아키텍처는 지속적이고 고대역폭의 AI 트래픽 흐름을 관리하는 능력이 뛰어납니다. HyperPort 기술을 활용하여 기존의 병목 현상과 비효율성을 제거하고 확장 가능한 AI 네트워크에 더 높은 처리량과 더 낮은 지연 시간을 제공합니다. 이는 기업이 캠퍼스, 대도시, 그리고 더 넓은 지역에 걸쳐 AI 워크로드를 배포할 때 특히 중요합니다.
현장 구축을 통해 Jericho4의 안정성과 효율성이 입증되었으며, 100km 이상의 거리에서 확장 가능한 AI 설계를 지원합니다. 이를 통해 Jericho4는 차세대 분산 AI 인프라의 핵심 기술로 자리매김했습니다.
단일 Jericho4 시스템은 최대 36,000개의 HyperPort까지 확장할 수 있으며, 각 HyperPort는 3.2Tb/s로 작동하고 딥 버퍼링, 라인 속도 MACsec, RoCE 전송을 통해 100km 이상의 거리에서 작동합니다. 구축 옵션에는 Jericho 라인 카드를 사용하는 섀시 기반 시스템, Jericho 리프와 Ramon 스파인을 사용하는 분산형 스케줄링 패브릭(DSF), 그리고 고정형 중앙 집중식 시스템이 포함되며, 모두 Broadcom의 높은 기수, 낮은 지연 시간, 그리고 전력 효율적인 아키텍처를 활용합니다.
Broadcom의 엔드투엔드 이더넷 AI 플랫폼의 일부
Jericho4는 Broadcom의 전체 이더넷 AI 플랫폼의 핵심 부분으로, 다음이 포함됩니다.
- 토마호크 6: AI 확장 및 확장을 위한 102.4Tbps 스위치.
- 토마호크 울트라: HPC 및 AI 확장을 위한 51.2 Tbps 저지연 스위치.
- 토르 가족: AI 최적화된 이더넷 NIC.
- 물리 계층 제품: 리타이머, DSP, 3세대 Co-Packaged Optics(CPO) 등이 포함됩니다.
이러한 제품을 함께 사용하면 긴밀하게 상호 연결된 GPU 클러스터부터 지역 배포까지 모든 규모의 이더넷 기반 AI 인프라를 개발할 수 있는 개방적이고 확장 가능한 플랫폼을 제공합니다.
경쟁
브로드컴의 Jericho4는 하이퍼스케일 데이터센터 운영업체와 AI 인프라 제공업체들이 기존 InfiniBand 및 기존 이더넷 솔루션의 한계를 극복하고자 하는 경쟁 시장에 진입합니다. InfiniBand 기반 Quantum 및 Spectrum-X 이더넷 스위치를 탑재한 NVIDIA는 특히 밀결합 GPU 클러스터 분야에서 AI 네트워킹 분야의 선도적인 입지를 유지하고 있습니다. 그러나 이더넷의 개방성, 경제성, 그리고 생태계 지원은 특히 스케일아웃 및 멀티사이트 구축을 위한 이더넷 기반 AI 패브릭으로의 전환을 가속화하고 있습니다.
시스코(Nexus 시리즈)와 아리스타 네트웍스(Arista Networks) 등 다른 경쟁사들도 고성능 AI 최적화 이더넷 스위칭에 막대한 투자를 하고 있습니다. 그러나 브로드컴(Broadcom)의 딥 버퍼링 무손실 아키텍처와 실리콘 혁신 및 생태계 통합 분야의 선도적 역량은 Jericho4에 매력적인 가치를 제공합니다. 특히 개방적이고 확장 가능하며 미래 지향적인 AI 인프라를 개발하려는 조직에게 더욱 그렇습니다.
더 자세한 정보를 원하시면 Jericho4 제품 페이지를 방문하세요.
아마존