Ayar Labs och NVIDIA samarbetar för att utveckla skala-ut-arkitekturer som möjliggörs av hög bandbredd, låg latens och optiskt baserad sammankoppling med ultralåg effekt för framtida NVIDIA-produkter. Fokuserade på att integrera Ayar Labs teknologi, hoppas de två företagen påskynda utvecklingen och adoptionen av optisk I/O-teknik för att stödja tillväxten av AI/ML-applikationer och datavolymer.
Uppfyller prestanda- och strömkrav med optisk I/O
Optisk I/O är positionerad för att förändra systemdesignens prestanda och effektbanor genom att göra det möjligt för beräknings-, minnes- och nätverks-ASIC:er att kommunicera med ökad bandbredd, lägre latens, över ett större avstånd och mindre effekt än befintliga elektriska I/O-lösningar. Optisk I/O-teknik kommer att möjliggöra framväxande heterogena datorsystem, disaggregerade/poolade konstruktioner och enhetliga minnesarkitekturer för att driva framtida datacenterinnovation.
Ayar Labs VD Charles Wuischpard tror att nuvarande kopparbaserade, compute-to-compute-sammankopplingar begränsar toppmoderna AI/ML-träningsarkitekturer som behövs för att bygga utskalade system för framtiden. Enligt Wuischpard kommer Ayar Labs arbete med NVIDIA att ge grunden för att utveckla nästa generations lösningar baserade på optisk I/O för nästa steg i AI-kapacitet för att hantera komplexa problem.
Levererar "Next Million-X" Speedup för AI med Optical Interconnect
Rob Ober, NVIDIAs chefsplattformsarkitekt för datacenterprodukter, kommenterade att NVIDIA-accelererad datoranvändning har levererat en "miljon-X snabbhet i AI under det senaste decenniet." Nästa miljon-X, tror han, kommer att kräva avancerad teknik som optisk I/O för att tillhandahålla bandbredd, effekt och skalningskrav för framtida AI/ML-arbetsbelastningar.
När AI-modellstorlekarna fortsätter att växa, till 2023, tror NVIDIA att modellerna kommer att ha 100 biljoner eller fler anslutningar – en ökning med 600X från 2021 – vilket överstiger den tekniska kapaciteten hos befintliga plattformar. Traditionella elbaserade sammankopplingar kommer att nå sina bandbreddsgränser, vilket leder till lägre applikationsprestanda, högre latens och ökad strömförbrukning. Samarbetet mellan Ayar Labs och NVIDIA kommer att fokusera på nya sammankopplingslösningar och systemarkitekturer för att möta skalan, prestanda och effektkraven för nästa generations AI med arkitekturer baserade på optisk I/O.
Besök Ayar Labs för att lära dig mer.
Amazon