Micron har demonstrerat ett 512 GB DDR5 RDIMM-minne som körs på flera serverplattformar, vilket de kallar världens första modul med den kapaciteten, och säger att både AMD och Intel validerar det för sina nästa generations serverplattformar. Modulen är klassad för hastigheter upp till 9 200 MT/s, och i en server med 24 platser och dubbla socklar placerar den 12 TB DDR5 bakom två processorer. Volymproduktion är planerad till andra halvan av 2027.
Hur Micron når 512 GB på en modul
Micron staplar DRAM-chips vertikalt inuti varje kapsling och ansluter dem med kiselgenomströmningsvior (TSV), samma staplingsmetod som HBM använder. Att stapla fler chips per kapsling fördubblar kapaciteten per kortplats utan att ändra modulens yta eller serverns DIMM-antal, vilket är hur ett system med dubbla socklar och 24 kortplatser når 12 TB.
”Micron fortsätter att sätta takten för minnesteknik och levererar en ny klass av ultratätt, högpresterande serverminne som hjälper kunder att hålla större datamängder närmare de beräkningsmotorer som behöver dem”, säger Raj Narasimhan, Senior Vice President och General Manager för Cloud Memory Business Unit på Micron. ”Ett 512 GB RDIMM möjliggör servrar på flera terabyte, som stöder större AI- och databasarbetsbelastningar, större virtualiseringstäthet och förbättrad energieffektivitet, allt inom befintliga serverutrymmen.”
9 200 MT/s-värdet är den andra anmärkningsvärda siffran, långt över DDR5-6400-taket för standard RDIMM-minnen på nuvarande Xeon 6-plattformar, och Microns lansering kopplar modulen till nästa generations plattformar från båda CPU-leverantörerna, så hastigheten och kapaciteten verkar komma tillsammans med servercykeln 2027. Micron RDIMM-minnen har fyllt många av Xeon 6- och EPYC-systemen genom vårt labb, och deras MRDIMM-minnen låg efter HPE XD230:s STAC-A2-rekord tidigare i år.
En 512 GB-modul mot fyra 128 GB-moduler
Microns påstående om effektivitet är att ett enda 512 GB RDIMM minskar driftsströmmen med mer än 60 % jämfört med fyra 128 GB RDIMM-moduler med samma totala kapacitet. 16 W för 512 GB-modulen mot 44.2 W för de fyra 128 GB-modulerna tillsammans, en minskning med 63.8 %, eller ungefär 31 mW per gigabyte mot 86 mW. Jämförelsen förutsätter en server som har fyra lediga platser att använda på alternativet; det vanligaste fallet är en server som har slut på platser, där 512 GB-modulen är det enda sättet att lägga till kapacitet överhuvudtaget. Densitetsargumentet är viktigt i många användningsfall, och det är ett liknande som vi nyligen framförde kring deras 245 TB SSD .
När det gäller prestanda nämner Micron upp till 1.4 gånger högre dataflöde för minnesbundna arbetsbelastningar som Spark SVM-baserad dataanalys jämfört med 256 GB DDR5-konfigurationer, och säger att modulen förbättrar dataflöde och samtidighet för minnesintensiva databaser och cachplattformar inklusive RocksDB och Redis.
AMD, Intel och en tidig kundröst
Båda CPU-leverantörerna lämnade valideringsutlåtanden. ”Vårt nära tekniska samarbete med Micron sammanför beräknings- och minnesinnovation för att hjälpa kunder att realisera det fulla värdet av AMD-drivna plattformar”, säger Amit Goel, vice vd för Compute and Enterprise AI Platform Solutions Engineering på AMD. Karin Eibschitz Segal, chef för plattforms- och systemteknik i Intels Data Center Group, sa att Intel ”arbetar nära Micron för att validera deras 512 GB DDR5 RDIMM och bidra till att möjliggöra framtida serverplattformar som är utformade för att möta de växande kraven från nästa generations datacenterarbetsbelastningar.”
Pressmeddelandet innehåller också ett citat från kundsidan från Darrin Alves, IT-chef för Infrastructure Platforms på JPMorganChase, som sa att minne med högre kapacitet "kommer att hjälpa företag att stödja större arbetsbelastningar i minnet, förbättra resursutnyttjandet och öka den flexibilitet som behövs för att skala moderna datormiljöer." Databaser i minnet, storskalig virtualisering och CPU-inferens för LLM:er och agentiska arbetsbelastningar är de användningsfall som Micron kallar, vilka alla styrs av hur mycket data en server kan lagra i huvudminnet innan den överförs till lagring.
Tidpunkten
Produktionsmålet för andra halvåret 2027 innebär att 512 GB RDIMM-modulen kommer att vara minst ett år försenad. I augusti investerade Micron och SK hynix miljarder i nya DRAM-fabriker, och lite av den kapaciteten kommer att landa före 2028, så modulen anländer inom samma fönster som den waferproduktion den kommer att använda.
Amazon