대규모 AI 학습 및 추론은 데이터 센터 네트워크를 재편하고 있습니다. GPU/XPU 간의 동서 트래픽이 크게 증가했으며, 클러스터가 수만 개의 가속기로 확장됨에 따라 기존 플러그형 광 장치는 전력 소모, 지연 시간 및 물리적 복잡성으로 어려움을 겪고 있습니다. Broadcom의 3세대 Co-Packaged Optics(CPO) 플랫폼인 Tomahawk 6-Davisson(TH6-Davisson)이 출시되어 광 지원 스위칭 용량을 최대 102.4Tb/s로 확장하여 현재 출시된 모든 CPO 스위치의 대역폭을 두 배로 늘렸습니다. 차세대 AI 패브릭을 구축하는 설계자에게 이는 처리량, 효율성 및 링크 안정성 측면에서 상당한 향상을 의미합니다.
AI 네트워킹을 위해 특별히 제작됨
TH6-Davisson은 최신 AI 클러스터의 현실을 고려하여 설계되었습니다. 이는 지속적인 고속 동서 흐름, 링크 플랩에 대한 민감성, 그리고 가속기 활용도 극대화의 필요성을 의미합니다. 채널당 200Gbps로 작동하는 TH6-Davisson은 이전 세대 TH5-Bailly보다 레인당 회선 속도와 총 대역폭을 두 배로 향상시킵니다. DR 기반 트랜시버와 NPO(Near-Packaged Optics) 및 CPO 인터커넥트에서 채널당 200Gbps의 원활한 상호 운용성을 제공합니다. 그 결과, 오늘날의 최고급 NIC, XPU 및 패브릭 스위치에서 간편하게 확장 및 확장할 수 있습니다.
배포 관점에서 이는 다음을 의미합니다.
- 링크로 인한 중단과 작업 중단을 줄여 효과적인 FLOP 활용도를 높입니다.
- 전기 경로를 단축하고 컨디셔닝을 최소화하여 기존 플러그형 제품에 비해 엔드투엔드 지연 시간을 줄였습니다.
- 스위치의 기계적, 열적 보호가 더욱 깔끔해져서 랙과 로우 규모에서 시스템 통합이 용이해졌습니다.
공동 패키지 광학: 전력 및 안정성의 장점
플러그형 광학 장치는 속도가 증가함에 따라 전력 소모가 증가하고 변동성이 커집니다. TH6-Davisson은 TSMC의 COUPE(Compact Universal Photonic Engine) 기술과 첨단 기판 레벨 멀티칩 패키징을 결합하여 이더넷 스위치와 공유되는 패키지에 광학 엔진을 직접 내장합니다. 이러한 이기종 통합은 신호 조절의 필요성을 줄여 트레이스 손실과 반사를 최소화합니다.
Broadcom에 따르면 다음과 같은 이점이 있습니다.
- 기존 플러그형 방식 대비 광 상호 연결 전력 소비량이 약 70% 감소했습니다. 이는 3.5배 이상 절감된 수치로, 하이퍼스케일 및 AI 데이터 센터의 TCO(총소유비용) 및 지속가능성 측면에서 상당한 이점을 제공합니다.
- 플러그형 트랜시버에서 흔히 발생하는 제조 및 테스트 변동성을 제거하여 링크 안정성을 향상시켰습니다. 이전 TH5-Bailly 링크 플랩 연구가 근거로 제시되었으며, TH6의 더욱 긴밀한 통합은 플랩 이벤트를 더욱 감소시키는데, 이는 장기간 AI 학습 실행에 필수적입니다.
브로드컴 광 시스템 사업부 부사장 겸 총괄 매니저인 니어 마갈릿은 TH6-Davisson을 더 크고 안정적인 AI 클러스터를 위한 핵심 요소로 제시합니다. 그는 링크 안정성과 에너지 효율성 향상을 통해 가속기 활용도 향상, 작업 중단 감소, 전반적인 안정성 향상을 이룰 수 있다고 강조합니다. 이는 더 빠르고 효율적인 모델 학습을 위한 핵심 요소입니다.
상호 운용성 및 표준 정렬
TH6-Davisson은 이기종 환경에 적합하도록 설계되어 다음과 같은 기능을 제공합니다.
- 400G/800G 상호 운용성을 위한 IEEE 802.3 규정을 준수하며 링크당 200Gbps를 제공합니다.
- DR 기반 광학 장치와 호환되며, 채널당 200Gbps의 NPO/CPO 생태계를 제공합니다.
- CPO의 통합 이점을 포기하지 않고도 서비스 편의성을 간소화하는 현장 교체형 ELSFP 레이저 모듈입니다.
이러한 표준 중심 접근 방식은 업그레이드 경로를 계획하는 동시에 기존 400G 및 800G 장비와 새로운 배포를 통합해야 하는 조달 및 네트워크 엔지니어링 팀에 필수적입니다.
제품 하이라이트: TH6-Davisson BCM78919
- 102.4Tb/s 스위칭 용량
- 16 × 6.4 Tb/s Davisson DR 광학 엔진
- 채널당 200Gbps 링크 대역폭
- 현장 교체 가능한 ELSFP 레이저 모듈
- 클러스터당 최대 512개의 XPU 확장 및 링크당 200Gbps의 2계층 패브릭에서 최대 100,000개 이상의 XPU 확장
- IEEE 802.3 호환; 현재 400G/800G 표준과 상호 운용 가능
이러한 사양은 대역폭 단위당 장치 수가 적은 고밀도 패브릭, 향상된 전력 프로파일, 그리고 더 높은 예상 작업 완료 신뢰성을 제공합니다. 이러한 점들은 AI 구축을 위한 ROI/TCO 모델에 직접적으로 반영됩니다.
데크당 채널당 400Gbps
브로드컴은 4세대 CPO 플랫폼을 개발 중이며, 채널당 400Gbps 대역폭과 추가적인 에너지 효율 향상을 목표로 하고 있다고 밝혔습니다. 만약 이러한 목표가 실현된다면, 두 배로 증가하는 속도를 유지하는 동시에 비트당 와트(W)를 지속적으로 줄일 수 있을 것입니다. 이는 전력이 제한된 AI 규모 데이터 센터의 현실에 매우 중요합니다.
이용 가능 여부 (Availability)
Broadcom은 현재 조기 접근 고객과 파트너를 대상으로 TH6-Davisson BCM78919의 샘플링을 진행하고 있으며, 이후 일반에 공급될 예정입니다.
공동 패키지 광학 장치는 AI 시대 네트워킹에 적합한 도구로 꾸준히 주목을 받고 있습니다. 이 장치는 클러스터가 6자리 수의 가속기로 확장되는 정확한 순간에 전기 경로를 압축하고, 전력을 차단하며, 링크를 안정화합니다. TH6-Davisson의 102.4Tb/s 용량과 70%의 광 전력 절감 효과는 야심 찬 목표를 제시합니다.
아마존