Marvell ha sfruttato FMS 2026 per presentare nuove tecnologie di infrastruttura di memoria, pensate per aiutare i fornitori di servizi cloud e hyperscaler a scalare la memoria indipendentemente dalla potenza di calcolo. Il portfolio comprende storage AI a livello di server, espansione e pooling della memoria CXL su scala rack e memoria ottica condivisa a livello di pod.
Le nuove versioni mirano a soddisfare le crescenti esigenze di memoria derivanti dall'inferenza dell'IA agentiva. Modelli più grandi, finestre di contesto più ampie e cache chiave-valore in espansione aumentano i requisiti di capacità di memoria, larghezza di banda e connettività. Nelle architetture tradizionali collegate a server, queste esigenze possono causare blocchi del processore e trasferimenti di dati inefficienti.
La disaggregazione della memoria consente di espandere, raggruppare e condividere la memoria indipendentemente dalle risorse di calcolo. Marvell ha affermato che il suo approccio è progettato per migliorare l'accessibilità della memoria, ridurre la latenza e il trasferimento dei dati e aumentare l'utilizzo del processore. L'obiettivo è produrre più token entro i limiti di potenza e spazio esistenti nei data center.
Will Chu, vicepresidente esecutivo e direttore generale di Custom Cloud Solutions presso Marvell, ha affermato che l'infrastruttura per l'IA si sta spostando da server isolati verso sistemi integrati che combinano potenza di calcolo, memoria e connettività. Ha aggiunto che è necessaria una maggiore scalabilità indipendente della memoria per migliorare l'utilizzo delle risorse e gestire i costi e i requisiti di consumo energetico delle implementazioni di IA.
Archiviazione AI a livello di server
Il controller SSD Marvell Bravera SC6 PCIe 6.0 è progettato per supportare carichi di lavoro di inferenza AI che richiedono frequenti spostamenti di dati della cache KV tra memoria ad alta larghezza di banda e storage SSD . Marvell ha affermato che il controller offre una velocità doppia rispetto al suo predecessore Bravera SC5 PCIe 5.0.
Grazie al miglioramento delle prestazioni di trasferimento della cache, l'SC6 mira ad aumentare l'efficienza dello storage per carichi di lavoro di intelligenza artificiale, cloud e aziendali. Il controller punta inoltre a ridurre l'amplificazione della scrittura e a prolungare la durata delle memorie NAND. Il supporto per memorie NAND di diversi fornitori offre ai fornitori di servizi cloud una maggiore flessibilità nell'approvvigionamento e nell'implementazione di SSD.
Si prevede che la fase di campionamento del Bravera SC6 inizierà nel quarto trimestre del 2026.
Espansione e pooling della memoria su scala rack
Le soluzioni di espansione della memoria Structera X di Marvell si basano sulla piattaforma Structera CXL esistente e sono progettate per aiutare i fornitori di servizi cloud su larga scala a gestire i carichi di lavoro di intelligenza artificiale ad alta intensità di memoria, grazie a pool di memoria più ampi e flessibili. Sviluppata in collaborazione con partner del settore, la piattaforma supporta l'espansione della memoria e la condivisione delle risorse tra i server.
Structera X è progettato per migliorare l'utilizzo degli investimenti di memoria esistenti, supportando al contempo modelli più grandi, finestre di contesto più ampie e requisiti di cache KV crescenti. Separando la capacità di memoria dalle singole configurazioni dei server, la piattaforma può supportare architetture di espansione e pooling basate su CXL più adattabili.
Marvell ha affermato che l'approccio è progettato per migliorare l'utilizzo dell'infrastruttura e l'efficienza operativa, riducendo al contempo i costi totali di proprietà. Inoltre, pone le basi per i futuri sistemi di condivisione e aggregazione della memoria CXL.
Memoria ottica condivisa a livello di modulo
I componenti di Photonic Fabric di Marvell includono moduli di memoria ottica, controller di interfaccia di rete e chiplet per un'architettura a memoria condivisa che si estende su più rack. Il sistema è progettato per connettere XPU e rack su distanze fino a 50 metri.
L'architettura supporta fino a 32 TB di offload della cache KV a caldo con elevata larghezza di banda e bassa latenza. Invece di recuperare i dati della cache KV dallo storage, i sistemi di intelligenza artificiale possono accedervi dal livello di memoria ottica condivisa. Marvell ha affermato che ciò può migliorare la velocità di inferenza, supportare modelli più grandi e finestre di contesto più lunghe e aumentare l'efficienza dei token.
L'azienda prevede un throughput di token da due a tre volte superiore, entro i limiti di spazio e di alimentazione dei data center esistenti. Le prestazioni effettive dipenderanno dalla configurazione del sistema, dalle caratteristiche del carico di lavoro e dall'implementazione dell'infrastruttura di intelligenza artificiale circostante.
Marvell sta presentando il suo portfolio alla FMS 2026, stand n. 805. L'annuncio arriva in una settimana dominata dalle novità sulla memoria di inferenza e si allinea con la spinta di NVIDIA verso Storage-Next e SCADA : Marvell ha sottolineato come tale architettura richieda SSD PCIe Gen7 in grado di supportare 100 milioni di IOPS e come controller come il Bravera SC6 rappresentino i passi intermedi verso unità progettate per l'accesso a blocchi di piccole dimensioni tramite GPU.
Amazon