Společnost Micron předvedla 512GB DDR5 RDIMM paměť běžící na více serverových platformách, kterou označuje za první modul s touto kapacitou na světě, a uvedla, že společnosti AMD a Intel ji ověřují pro své serverové platformy nové generace. Modul je dimenzován na rychlosti až 9 200 MT/s a v 24slotovém dvoupaticovém serveru nabízí 12 TB DDR5 paměti za dvěma procesory. Hromadná výroba je naplánována na druhou polovinu roku 2027.
Jak se Micron dostal k 512 GB na jednom modulu
Společnost Micron vertikálně stohuje čipy DRAM uvnitř každého pouzdra a propojuje je pomocí křemíkových průchodek (TSV), což je stejný přístup stohování čipů, jaký používá společnost HBM. Stohování více čipů na pouzdro zdvojnásobuje kapacitu na slot, aniž by se změnila velikost modulu nebo počet modulů DIMM serveru, což je způsob, jakým dvoupaticový systém s 24 sloty dosahuje kapacity 12 TB.
„Micron i nadále udává tempo v oblasti paměťových technologií a dodává novou třídu ultrahusté, vysoce výkonné serverové paměti, která pomáhá zákazníkům uchovávat větší datové sady blíže k výpočetním strojům, které je potřebují,“ řekl Raj Narasimhan, senior viceprezident a generální ředitel divize cloudové paměti ve společnosti Micron. „512GB RDIMM umožňuje provoz víceterabajtových serverů, podporuje větší úlohy umělé inteligence a databází, vyšší hustotu virtualizace a vylepšenou energetickou účinnost, to vše v rámci stávajících serverových kapacit.“
Dalším pozoruhodným číslem je rychlost 9 200 MT/s, která výrazně překračuje limit DDR5-6400 pro standardní RDIMM na současných platformách Xeon 6. Uvedení modulu na trh společností Micron spojuje tento modul s platformami nové generace od obou dodavatelů CPU, takže se zdá, že rychlost a kapacita dorazí společně se serverovým cyklem 2027. Moduly RDIMM od společnosti Micron se v naší laboratoři objevily v mnoha systémech Xeon 6 a EPYC a jejich MRDIMM zaostávaly za rekordem HPE XD230 v STAC-A2 na začátku tohoto roku.
Jeden 512GB modul oproti čtyřem 128GB modulům
Společnost Micron uvádí, že jeden 512GB RDIMM modul snižuje provozní spotřebu o více než 60 % ve srovnání se čtyřmi 128GB RDIMM moduly se stejnou celkovou kapacitou. To představuje 16 W pro 512GB modul oproti 44.2 W pro čtyři 128GB moduly dohromady, což představuje snížení o 63.8 %, neboli zhruba 31 mW na gigabajt oproti 86 mW. Srovnání předpokládá server, který má čtyři volné sloty k využití pro alternativu; častějším případem je server, kterému došly sloty, kde je 512GB modul jediným způsobem, jak vůbec přidat kapacitu. Argument hustoty paměti je v mnoha případech použití významný a je podobný tomu, který jsme nedávno zmínili u jejich 245TB SSD disku.
Pokud jde o výkon, Micron uvádí až 1.4krát vyšší propustnost pro paměťově vázané úlohy, jako je analýza dat založená na Spark SVM, ve srovnání s konfiguracemi s 256 GB DDR5 a říká, že modul zlepšuje propustnost a souběžnost pro paměťově náročné databáze a platformy pro ukládání do mezipaměti, včetně RocksDB a Redis.
AMD, Intel a hlas prvních zákazníků
Oba dodavatelé CPU poskytli ověřovací prohlášení. „Naše úzká technická spolupráce se společností Micron spojuje inovace v oblasti výpočetních a paměťových technologií, aby pomohla zákazníkům plně využít hodnotu platforem s procesory AMD,“ uvedl Amit Goel, viceprezident společnosti AMD pro výpočetní a podniková řešení platform AI. Karin Eibschitz Segal, generální ředitelka pro platformní a systémové inženýrství ve skupině datových center společnosti Intel, uvedla, že Intel „úzce spolupracuje se společností Micron na validaci svých 512GB DDR5 RDIMM pamětí a na pomoci s vývojem budoucích serverových platforem navržených tak, aby splňovaly rostoucí požadavky na pracovní zátěž datových center nové generace.“
Součástí tiskové zprávy je také citace Darrina Alvese, ředitele pro informační technologie v divizi Infrastructure Platforms ve společnosti JPMorganChase, na straně zákazníka, který uvedl, že paměť s vyšší kapacitou „pomůže podnikům podporovat větší pracovní zátěže v paměti, zlepší využití zdrojů a zvýší flexibilitu potřebnou pro škálování moderních výpočetních prostředí.“ Databáze v paměti, rozsáhlá virtualizace a inference na straně CPU pro LLM a agentní pracovní zátěže jsou případy užití, které společnost Micron používá, a které jsou všechny omezeny množstvím dat, které server dokáže uchovávat v hlavní paměti, než je přesune do úložiště.
Načasování
Cíl výroby pro druhou polovinu roku 2027 stanoví, že 512GB RDIMM bude vyrábět rok nebo déle. V srpnu společnosti Micron a SK hynix vynaložily miliardy na nové továrny na DRAM, přičemž jen malá část této kapacity dorazí před rokem 2028, takže modul dorazí ve stejném časovém horizontu jako produkce waferů, ze kterých bude čerpat.
Amazon