Micron ha iniziato a spedire ai clienti campioni del suo nuovo modulo di memoria SOCAMM2 da 192 GB, segnando un significativo progresso nella DRAM a basso consumo per i data center dedicati all'intelligenza artificiale. Basato sul più avanzato nodo di processo a 1 gamma di Micron e sulla tecnologia LPDDR5X, il modulo è progettato per offrire un'elevata larghezza di banda e una maggiore efficienza energetica in un fattore di forma straordinariamente compatto.
Con l'aumento delle dimensioni e della complessità dei modelli di intelligenza artificiale, la memoria rappresenta uno dei maggiori punti critici nella progettazione dei sistemi. I moduli SOCAMM2 di Micron mirano a risolvere questo problema offrendo una memoria ad alta capacità e basso consumo energetico, in grado di scalare in modo più flessibile rispetto ai tradizionali DIMM per server.
Micron Caratteristiche principali di SOCAMM2 da 192 GB
Questa ultima versione del modulo di memoria SOCAMM (Small Outline Compression Attached Memory Module) di Micron aumenta la capacità del 50% rispetto alla generazione precedente, senza aumentare l'ingombro fisico. Si prevede che il nuovo modulo da 192 GB migliorerà notevolmente le prestazioni di inferenza AI in tempo reale. Secondo Micron, i sistemi che utilizzano SOCAMM2 possono ridurre il tempo al primo token (TTFT) nei carichi di lavoro di inferenza di oltre l'80% rispetto alla memoria server tradizionale.
Progettati per carichi di lavoro di intelligenza artificiale di nuova generazione che richiedono un throughput elevato e un'infrastruttura attenta al risparmio energetico, i moduli SOCAMM2 combinano i vantaggi intrinseci della tecnologia LPDDR5X (basso consumo energetico ed elevate velocità di trasferimento dati) con affidabilità e facilità di manutenzione di livello server. Ciò li rende particolarmente adatti per sistemi e ambienti densi raffreddati a liquido che richiedono una capacità di memoria significativa con budget energetici ridotti.
SOCAMM2 offre inoltre un miglioramento dell'efficienza energetica di oltre il 20% rispetto al suo predecessore e un incremento di efficienza di oltre due terzi rispetto alle RDIMM equivalenti. Ciò si traduce in risparmi sostanziali su larga scala, soprattutto nelle implementazioni di server AI full-rack, che possono utilizzare oltre 40 terabyte di DRAM a basso consumo. Le dimensioni fisiche del modulo sono solo un terzo di quelle di una RDIMM comparabile, consentendo ai data center di migliorare la densità di memoria riducendo al minimo l'ingombro del sistema.
Micron collabora con NVIDIA
La collaborazione di Micron con NVIDIA negli ultimi cinque anni ha svolto un ruolo chiave nello sviluppo del fattore di forma SOCAMM per l'utilizzo nei data center. Inizialmente basato sull'architettura di memoria mobile, SOCAMM si è poi evoluto per soddisfare le esigenze di durata, larghezza di banda e temperatura degli ambienti server. SOCAMM2 estende questa visione con innovazioni di stacking e una struttura modulare che supportano una manutenzione più semplice e una futura scalabilità.
L'azienda ha inoltre contribuito allo sviluppo degli standard SOCAMM2 da parte di JEDEC e sta collaborando con partner del settore per promuoverne l'adozione nell'ecosistema dei data center basati sull'intelligenza artificiale.
Disponibilità
I moduli SOCAMM2 sono ora disponibili in configurazioni fino a 192 GB e velocità di trasmissione dati fino a 9.6 Gbps, con una produzione in serie pianificata in linea con le tempistiche di distribuzione dei clienti.
Pagina web del programma di abilitazione tecnologica Micron SOCAMM2
Amazon