AI-träning och inferens i stor skala omformar datacenternätverk. Öst-västlig trafik mellan GPU:er/XPU:er har ökat avsevärt, och äldre pluggbar optik kämpar med strömförbrukning, latens och fysisk komplexitet i takt med att kluster skalas upp till tiotusentals acceleratorer. Broadcoms tredje generationens Co-Packaged Optics (CPO)-plattform, Tomahawk 6-Davisson (TH6-Davisson), är nu tillgänglig, vilket ger en optiskt aktiverad switchkapacitet på 102.4 Tb/s, vilket fördubblar bandbredden för alla CPO-switchar som finns tillgängliga idag. För arkitekter som bygger nästa generations AI-strukturer markerar detta en betydande förbättring av dataflöde, effektivitet och länktillförlitlighet.
Specialbyggd för AI-nätverk
TH6-Davisson är konstruerad kring realiteten hos moderna AI-kluster. Detta motsvarar ihållande, höghastighets öst-västliga flöden, känslighet för länkflikar och behovet av att maximera acceleratorutnyttjandet. Med en hastighet på 200 Gbps per kanal fördubblar TH6-Davisson linjehastigheten per fil och den totala bandbredden jämfört med den tidigare TH5-Bailly-generationen. Den erbjuder sömlös interoperabilitet mellan DR-baserade transceivers och Near-Packaged Optics (NPO) och CPO-sammankopplingar med 200 Gbps per kanal. Resultatet är enkel uppskalning och utskalning över dagens toppmoderna nätverkskort, XPU:er och fabric-switchar.
Ur ett driftsättningsperspektiv innebär detta:
- Högre effektivt utnyttjande av FLOP:er genom att minska länkinducerade stopp och jobbavbrott.
- Lägre end-to-end-latens jämfört med traditionella pluggbara kretsar genom att förkorta elektriska vägar och minimera konditionering.
- Ett renare mekaniskt och termiskt hölje vid switchen, vilket underlättar systemintegration i rack- och radskalan.
Sampackad optik: Fördelar med kraft och stabilitet
Instickbar optik medför effektförluster och introducerar fler variationspunkter när hastigheterna ökar. TH6-Davisson bäddar in optiska motorer direkt i ett delat paket med Ethernet-switchen, och kombinerar TSMC:s Compact Universal Photonic Engine (COUPE)-teknik med avancerad flerchipskapsling på substratnivå. Denna heterogena integration minskar behovet av signalkonditionering, vilket minimerar spårförlust och reflektioner.
Enligt Broadcom inkluderar fördelarna:
- Cirka 70 % minskning av strömförbrukningen för optiska sammankopplingar jämfört med traditionella pluggbara kablar. Det är mer än 3.5 gånger lägre, vilket resulterar i betydande total ägandekostnad och hållbarhetsvinster för hyperskaliga datacenter och AI-datacenter.
- Förbättrad länkstabilitet genom att eliminera tillverknings- och testvariationer som är typiska för pluggbara transceivers. En tidigare TH5-Bailly-länkflapstudie refereras som bevis; TH6:s tätare integration minskar ytterligare flaphändelser, vilket är avgörande för långvariga AI-träningskörningar.
Near Margalit, vice vd och chef för Broadcoms division för optiska system, ser TH6-Davisson som en möjliggörare för större och mer tillförlitliga AI-kluster. Han lyfter fram vinster i länkstabilitet och energieffektivitet som driver högre acceleratorutnyttjande, färre arbetsavbrott och förbättrad övergripande tillförlitlighet. Dessa är viktiga hävstångseffekter för snabbare och effektivare modellträning.
Interoperabilitet och standardanpassning
TH6-Davisson är utformad för att passa in i heterogena miljöer och levererar:
- 200 Gbps per länk med IEEE 802.3-kompatibilitet för 400G/800G-interoperabilitet.
- Kompatibilitet med DR-baserad optik, plus NPO/CPO-ekosystem vid 200 Gbps per kanal.
- Fältutbytbara ELSFP-lasermoduler för att förenkla service utan att förlora integrationsfördelarna med CPO.
Denna standardfokuserade metod är avgörande för upphandlings- och nätverksteknikteam som måste integrera nya implementeringar med befintlig 400G- och 800G-utrustning samtidigt som de planerar uppgraderingsvägar.
Produkthöjdpunkter: TH6-Davisson BCM78919
- 102.4 Tb/s switchkapacitet
- 16 × 6.4 Tb/s Davisson DR optiska motorer
- 200 Gbps per kanal länkbandbredd
- Fältutbytbara ELSFP-lasermoduler
- Skalbar upp till 512 XPU:er per kluster och upp till 100 000+ XPU:er i tvåskiktade strukturer med 200 Gbps per länk
- IEEE 802.3-kompatibel; kompatibel med nuvarande 400G/800G-standarder
Dessa specifikationer leder till tätare strukturer med färre enheter per bandbreddsenhet, bättre effektprofiler och högre förväntad tillförlitlighet i slutförandet av jobb. Dessa punkter påverkar direkt ROI/TCO-modeller för AI-utbyggnader.
400 Gbps per kanal på däck
Broadcom indikerar att deras fjärde generationens CPO-plattform är under utveckling, med målsättningen att nå en bandbredd på 400 Gbps per kanal med ytterligare energieffektivitetsvinster. Om den utvecklingen förverkligas skulle den utvecklingen kunna bibehålla en fördubbling av kadensen samtidigt som den fortsätter att minska watt/bit, vilket är avgörande för de strömbegränsade verkligheterna i AI-skaliga datacenter.
Tillgänglighet
Broadcom testar för närvarande TH6-Davisson BCM78919 till kunder och partners med tidig åtkomst, med allmän tillgänglighet senare.
Sampaketerad optik fortsätter att verka vara rätt verktyg för nätverk i AI-eran. De komprimerar den elektriska vägen, stänger av strömmen och stabiliserar länkar i exakt det ögonblick kluster skalas upp till sexsiffriga acceleratorer. TH6-Davissons påstående om kapacitet på 102.4 Tb/s och 70 % minskning av optisk effekt sätter en ambitiös ribba.
Amazon