AI-training en -inferentie op schaal veranderen datacenternetwerken. Oost-westverkeer tussen GPU's/XPU's is aanzienlijk toegenomen en oudere pluggable optics kampen met stroomverbruik, latentie en fysieke complexiteit nu clusters opschalen naar tienduizenden accelerators. Broadcoms derde generatie Co-Packaged Optics (CPO)-platform, Tomahawk 6-Davisson (TH6-Davisson), is nu beschikbaar en brengt de optisch ondersteunde switchingcapaciteit naar 102.4 TB/s, waarmee de bandbreedte van elke CPO-switch die momenteel beschikbaar is, wordt verdubbeld. Voor architecten die next-generation AI-fabrics bouwen, betekent dit een aanzienlijke verbetering in doorvoer, efficiëntie en betrouwbaarheid van de verbinding.
Speciaal ontwikkeld voor AI-netwerken
TH6-Davisson is ontworpen rond de realiteit van moderne AI-clusters. Dit resulteert in aanhoudende, snelle oost-west-stromen, gevoeligheid voor link flaps en de noodzaak om het gebruik van de accelerator te maximaliseren. Met een snelheid van 200 Gbps per kanaal verdubbelt TH6-Davisson de lijnsnelheid per lijn en de totale bandbreedte van de vorige TH5-Bailly-generatie. Het biedt naadloze interoperabiliteit tussen DR-gebaseerde transceivers en Near-Packaged Optics (NPO) en CPO-interconnects met 200 Gbps per kanaal. Het resultaat is eenvoudige opschaling en scale-out voor de huidige high-end NIC's, XPU's en fabric switches.
Vanuit een implementatieperspectief betekent dit:
- Effectievere benutting van FLOP's door het verminderen van link-geïnduceerde blokkades en onderbrekingen van taken.
- Lagere end-to-end-latentie vergeleken met traditionele pluggables door kortere elektrische paden en minimale conditionering.
- Een schonere mechanische en thermische schil bij de switch, waardoor systeemintegratie op rack- en rijniveau eenvoudiger wordt.
Co-Packaged Optics: voordelen op het gebied van vermogen en stabiliteit
Pluggable optics leiden tot vermogensverlies en meer variabiliteit naarmate de snelheid toeneemt. TH6-Davisson integreert optische engines rechtstreeks in een gedeelde behuizing met de Ethernet-switch en combineert TSMC's Compact Universal Photonic Engine (COUPE)-technologie met geavanceerde multi-chip packaging op substraatniveau. Deze heterogene integratie vermindert de noodzaak voor signaalconditionering en minimaliseert sporenverlies en reflecties.
Volgens Broadcom zijn de voordelen onder meer:
- Ongeveer 70% minder energieverbruik voor optische verbindingen ten opzichte van traditionele plug-in-oplossingen. Dat is meer dan 3.5 keer lager, wat resulteert in aanzienlijke winst op het gebied van TCO en duurzaamheid voor hyperscale- en AI-datacenters.
- Verbeterde linkstabiliteit door het elimineren van productie- en testvariabiliteit die kenmerkend is voor pluggable transceivers. Een eerdere flapstudie naar de TH5-Bailly-link wordt als bewijs aangehaald; de nauwere integratie van TH6 vermindert flapgebeurtenissen verder, wat cruciaal is voor langdurige AI-trainingsruns.
Near Margalit, Vice President en General Manager van Broadcoms Optical Systems Division, schetst TH6-Davisson als een facilitator voor grotere, betrouwbaardere AI-clusters. Hij benadrukt de verbeteringen in linkstabiliteit en energie-efficiëntie die leiden tot een hogere acceleratorbenutting, minder taakonderbrekingen en een verbeterde algehele betrouwbaarheid. Dit zijn belangrijke factoren voor snellere en efficiëntere modeltraining.
Interoperabiliteit en standaardenafstemming
TH6-Davisson is ontworpen voor heterogene omgevingen en biedt:
- 200 Gbps per verbinding met IEEE 802.3-compatibiliteit voor 400G/800G-interoperabiliteit.
- Compatibiliteit met DR-gebaseerde optica, plus NPO/CPO-ecosystemen met 200 Gbps per kanaal.
- ELSFP-lasermodules die ter plaatse kunnen worden vervangen, vereenvoudigen het onderhoud zonder dat dit ten koste gaat van de integratievoordelen van CPO.
Deze op standaarden gerichte aanpak is essentieel voor inkoop- en netwerkengineeringteams die nieuwe implementaties moeten integreren met bestaande 400G- en 800G-apparatuur en tegelijkertijd upgradepaden moeten plannen.
Productkenmerken: TH6-Davisson BCM78919
- Schakelcapaciteit van 102.4 Tb/s
- 16 × 6.4 Tb/s Davisson DR optische engines
- 200 Gbps per kanaallinkbandbreedte
- In het veld vervangbare ELSFP-lasermodules
- Schaal op tot 512 XPU's per cluster en tot 100,000+ XPU's in two-tier fabrics met 200 Gbps per link
- IEEE 802.3-compatibel; interoperabel met de huidige 400G/800G-standaarden
Deze specificaties vertalen zich in dichtere fabrics met minder apparaten per bandbreedte-eenheid, betere vermogensprofielen en een hogere verwachte betrouwbaarheid van de voltooiing van taken. Deze punten komen direct tot uiting in ROI/TCO-modellen voor AI-implementaties.
400 Gbps per kanaal op het dek
Broadcom geeft aan dat zijn vierde-generatie CPO-platform in ontwikkeling is, gericht op een bandbreedte van 400 Gbps per kanaal met verdere verbeteringen in energie-efficiëntie. Indien gerealiseerd, zou dit traject een verdubbeling van de bandbreedte kunnen aanhouden en tegelijkertijd het aantal watts per bit blijven verlagen, wat cruciaal is voor de beperkte energie-infrastructuur van datacenters op AI-schaal.
Beschikbaarheid
Broadcom is momenteel bezig met het testen van de TH6-Davisson BCM78919 voor klanten en partners die er al vroeg toegang toe hebben. Algemene beschikbaarheid volgt later.
Co-packaged optics lijken nog steeds de juiste tool voor netwerken in het AI-tijdperk. Ze comprimeren het elektrische pad, verlagen de stroomtoevoer en stabiliseren verbindingen precies op het moment dat clusters opschalen naar een aantal versnellers van meer dan honderdduizend. De capaciteit van 102.4 TB/s en de optische vermogensreductie van 70% van TH6-Davisson leggen de lat hoog.
Amazon