Trénování a inference umělé inteligence ve velkém měřítku mění strukturu sítí datových center. Provoz mezi GPU/XPU v smyčce východ-západ se výrazně zvýšil a starší zásuvné optické systémy se potýkají s odběrem energie, latencí a fyzickou složitostí, protože clustery se škálují na desítky tisíc akcelerátorů. Platforma Broadcom Co-Packaged Optics (CPO) třetí generace, Tomahawk 6-Davisson (TH6-Davisson), je nyní v prodeji a zvyšuje optickou přepínací kapacitu na 102.4 Tb/s, což zdvojnásobuje šířku pásma oproti jakémukoli CPO přepínači dostupnému dnes. Pro architekty, kteří budují fabric umělé inteligence nové generace, to znamená významné zlepšení propustnosti, efektivity a spolehlivosti spojení.
Vyvinuto pro AI sítě
TH6-Davisson je navržen s ohledem na realitu moderních clusterů umělé inteligence. To odpovídá trvalým, vysokorychlostním tokům mezi východem a západem, citlivosti na výpadky linky a potřebě maximalizovat využití akcelerátoru. TH6-Davisson pracuje s rychlostí 200 Gb/s na kanál, čímž zdvojnásobuje rychlost linky na kanál a celkovou šířku pásma oproti předchozí generaci TH5-Bailly. Nabízí bezproblémovou interoperabilitu mezi transceivery založenými na DR a propojeními Near-Packaged Optics (NPO) a CPO s rychlostí 200 Gb/s na kanál. Výsledkem je snadné škálování napříč dnešními špičkovými síťovými kartami (NIC), XPU a fabric přepínači.
Z pohledu nasazení to znamená:
- Vyšší efektivní využití FLOP díky snížení zablokování a přerušení úloh způsobených linkami.
- Nižší latence mezi koncovými body oproti tradičním zásuvným zařízením zkrácením elektrických cest a minimalizací podmiňování.
- Čistší mechanický a tepelný obal u přepínače, usnadňující integraci systému v regálovém a řadovém měřítku.
Balená optika: Výhody výkonu a stability
Zásuvná optika s rostoucí rychlostí přináší ztráty výkonu a více bodů variability. TH6-Davisson integruje optické moduly přímo do sdíleného pouzdra s ethernetovým přepínačem a kombinuje tak technologii TSMC Compact Universal Photonic Engine (COUPE) s pokročilým vícečipovým pouzdrem na úrovni substrátu. Tato heterogenní integrace snižuje potřebu úpravy signálu a minimalizuje ztráty stop a odrazy.
Podle společnosti Broadcom mezi výhody patří:
- Přibližně 70% snížení spotřeby energie optického propojení v porovnání s tradičními zásuvnými kabely. To je více než 3.5krát méně, což má za následek významné zisky z hlediska celkových nákladů na vlastnictví (TCO) a udržitelnosti pro hyperscale a AI datová centra.
- Zlepšená stabilita spojení eliminací variability výroby a testů typické pro zásuvné transceivery. Jako důkaz je uvedena předchozí studie TH5-Bailly o chlopních spojů; těsnější integrace TH6 dále snižuje výskyt chlopní, což je klíčové pro dlouhodobé tréninkové běhy umělé inteligence.
Near Margalit, viceprezident a generální ředitel divize optických systémů společnosti Broadcom, označuje TH6-Davisson za nástroj umožňující vytvoření větších a spolehlivějších clusterů umělé inteligence. Zdůrazňuje zlepšení stability spojení a energetické účinnosti, které vedou k vyššímu využití akcelerátoru, menšímu počtu přerušení úloh a zlepšení celkové spolehlivosti. To jsou klíčové faktory pro rychlejší a efektivnější trénování modelů.
Interoperabilita a sladění standardů
TH6-Davisson je navržen pro začlenění do heterogenních prostředí a poskytuje:
- 200 Gb/s na linku s kompatibilitou s IEEE 802.3 pro interoperabilitu 400G/800G.
- Kompatibilita s optikou založenou na DR a ekosystémy NPO/CPO s rychlostí 200 Gb/s na kanál.
- Laserové moduly ELSFP vyměnitelné v terénu pro zjednodušení údržby bez ztráty výhod integrace CPO.
Tento přístup zaměřený na standardy je nezbytný pro týmy zabývající se nákupem a síťovým inženýrstvím, které musí při plánování modernizace integrovat nová nasazení se stávajícím zařízením 400G a 800G.
Hlavní vlastnosti produktu: TH6-Davisson BCM78919
- Přepínací kapacita 102.4 Tb/s
- 16 × 6.4 Tb/s optických motorů Davisson DR
- Šířka pásma spojení 200 Gb/s na kanál
- Laserové moduly ELSFP vyměnitelné v terénu
- Škálování až na 512 XPU na cluster a až na 100 000+ XPU ve dvouvrstvých sítích s rychlostí 200 Gb/s na linku
- Kompatibilní s IEEE 802.3; kompatibilní se současnými standardy 400G/800G
Tyto specifikace se promítají do hustších sítí s menším počtem zařízení na jednotku šířky pásma, lepších energetických profilů a vyšší očekávané spolehlivosti dokončení úloh. Tyto body přímo odrážejí modely návratnosti investic/celkových nákladů na vlastnictví (ROI/TCO) pro sestavování umělé inteligence.
400 Gb/s na kanál na desce
Společnost Broadcom uvádí, že vyvíjí svou platformu CPO čtvrté generace s cílem dosáhnout šířky pásma 400 Gb/s na kanál a dalšího zvýšení energetické účinnosti. Pokud by se tato trajektorie realizovala, udržela by si zdvojnásobující se kadenci a zároveň by se nadále snižovala spotřeba ve wattech/bit, což je zásadní pro energeticky omezenou realitu datových center s umělou inteligencí.
dostupnost
Broadcom v současné době nabízí vzorky TH6-Davisson BCM78919 zákazníkům a partnerům s předstihem, přičemž všeobecná dostupnost bude následovat.
Kobalená optika se i nadále jeví jako ten správný nástroj pro sítě v éře umělé inteligence. Komprimuje elektrickou cestu, přerušuje napájení a stabilizuje spojení přesně v okamžiku, kdy klastry dosahují šestimístných rychlostí akcelerátorů. Kapacita TH6-Davisson 102.4 Tb/s a 70% snížení optického výkonu nastavují ambiciózní laťku.
Amazon