IBM ha annunciato una ricerca rivoluzionaria nella tecnologia ottica che promette di rivoluzionare il modo in cui i data center addestrano ed eseguono modelli di intelligenza artificiale generativa. L'azienda ha avviato un nuovo approccio all'ottica co-packaged (CPO), una tecnologia di nuova generazione che sfrutta la connettività basata sulla luce all'interno dei data center. Progettando e assemblando la prima guida d'onda ottica polimerica (PWG) annunciata pubblicamente per alimentare questa innovazione, i ricercatori IBM mirano a ridefinire il modo in cui i dati ad alta larghezza di banda vengono trasmessi tra chip, schede di circuito e server.
Immagine per gentile concessione di Ranovus
La tecnologia in fibra ottica trasporta grandi quantità di dati su lunghe distanze, gestendo il commercio e le comunicazioni globali. Tuttavia, nei data center, i rack dipendono dal cablaggio di rete DAC in rame per la connettività. IBM ritiene che questa configurazione possa creare colli di bottiglia limitando velocità e capacità, lasciando gli acceleratori GPU inattivi per lunghi periodi durante i processi di formazione AI distribuiti. La svolta di IBM mira a portare la velocità e l'efficienza dell'ottica in queste connessioni interne, migliorando notevolmente le prestazioni e l'efficienza energetica.
IBM ha dimostrato un nuovo modulo prototipo CPO che introduce la connettività ottica ad alta velocità nei data center. Pubblicata in un articolo su arXiv, la ricerca evidenzia come questa tecnologia possa aumentare drasticamente la larghezza di banda, ridurre i tempi di inattività della GPU e accelerare l'addestramento del modello AI, affrontando al contempo le crescenti richieste di energia nei data center.
Principali vantaggi dell'ottica co-confezionata (CPO)
Maggiore efficienza energetica e riduzione dei costi
La tecnologia CPO consente una riduzione di oltre 5 volte del consumo energetico rispetto alle interconnessioni elettriche di fascia media. Questo progresso consente inoltre ai cavi di interconnessione dei data center di estendersi da pochi metri a centinaia di metri, riducendo significativamente i costi operativi.
- Formazione accelerata sull'intelligenza artificiale: Sostituendo i tradizionali cavi elettrici con la connettività ottica, CPO può aumentare la velocità di addestramento dei grandi modelli linguistici (LLM) fino a cinque volte. Ad esempio, può ridurre il tempo di addestramento per un LLM da tre mesi a tre settimane, con guadagni di prestazioni ancora maggiori man mano che i modelli e le risorse GPU aumentano.
- Risparmio energetico senza pari: IBM stima che ogni modello di intelligenza artificiale addestrato utilizzando CPO potrebbe far risparmiare l'equivalente di consumo energetico annuo di 5,000 case negli Stati Uniti, sottolineando l'impatto trasformativo sull'efficienza energetica.
- Densità di larghezza di banda senza pari: I moduli CPO offrono fino a 80 volte più larghezza di banda tra i chip rispetto alle connessioni elettriche. L'innovazione di IBM consente ai produttori di chip di aggiungere sei volte più fibre ottiche ai bordi dei chip fotonici in silicio, denominati "densità fronte spiaggia", migliorando la capacità complessiva del data center.
Tecnologia pionieristica della guida ottica polimerica (PWG)
Il team di ricerca IBM ha progettato un PWG ad alta densità con canali ottici con passo di 50 micrometri accoppiati adiabaticamente a guide d'onda fotoniche in silicio. Questo assemblaggio, eseguito utilizzando processi di confezionamento standard, è il primo a superare rigorosi test di stress di produzione, tra cui elevata umidità, temperature estreme che vanno da -40°C a 125°C e durata meccanica. L'impilamento dei PWG consente fino a 128 canali di connettività, offrendo una scalabilità senza precedenti.
Questa innovazione è in linea con la leadership di IBM nella tecnologia dei semiconduttori, basata su progressi quali il primo chip di nodo da 2 nm, i transistor nanosheet e i transistor verticali (VTFET). La tecnologia CPO introduce un nuovo modo per soddisfare le crescenti richieste dell'IA, trasformando le comunicazioni off-module da elettriche a ottiche e consentendo operazioni di data center sostenibili e scalabili.
Supportare la crescita dell'intelligenza artificiale generativa
Il vicepresidente senior e direttore della ricerca di IBM, Dario Gil, ha sottolineato il potenziale trasformativo del CPO:
"Dato che l'intelligenza artificiale generativa richiede più energia e potenza di elaborazione, il data center deve evolversi e l'ottica co-confezionata può rendere questi data center a prova di futuro. Con questa svolta, i chip di domani comunicheranno in modo molto simile a come i cavi in fibra ottica trasportano i dati dentro e fuori dai data center, inaugurando una nuova era di comunicazioni più veloci e sostenibili in grado di gestire i carichi di lavoro dell'intelligenza artificiale del futuro".
Il lavoro di IBM su CPO è stato condotto ad Albany, New York, sede del National Semiconductor Technology Center (NSTC) recentemente annunciato. L'assemblaggio del prototipo e i test dei moduli sono avvenuti presso la struttura IBM di Bromont, Quebec, leader nel packaging dei chip. Questa collaborazione fa parte dell'iniziativa Northeast Semiconductor Corridor, che mira a rafforzare l'innovazione dei semiconduttori negli Stati Uniti e in Canada.
L'innovazione ottica co-confezionata di IBM rappresenta un significativo passo avanti nel progresso delle comunicazioni dei data center. Integrando la connettività alla velocità della luce nei rack, la tecnologia CPO promette di offrire efficienza, larghezza di banda e risparmi energetici senza pari, ridefinendo le capacità dei data center e preparandoli per le crescenti richieste di AI generativa e oltre.
Amazon