Marvell använde FMS 2026 för att introducera nya minnesinfrastrukturtekniker som syftar till att hjälpa hyperskalare och molnleverantörer att skala minne oberoende av beräkningskapacitet. Portföljen omfattar AI-lagring på servernivå, rackskalig CXL-minnesexpansion och poolning samt optiskt delat minne på pod-nivå.
Utgåvorna riktar sig mot växande minnesbehov från agentbaserad AI-inferens. Större modeller, längre kontextfönster och expanderande nyckel-värde-cacher ökar kraven på minneskapacitet, bandbredd och anslutning. I traditionella serveranslutna arkitekturer kan dessa krav leda till processorstopp och ineffektiv dataflyttning.
Minnesuppdelning gör det möjligt att utöka, poola och dela minne oberoende av beräkningsresurser. Marvell säger att dess metod är utformad för att förbättra minnestillgängligheten, minska latens och dataförflyttning samt öka processorutnyttjandet. Målet är att producera fler tokens inom befintliga begränsningar av strömförbrukning och utrymme i datacentret.
Will Chu, vice vd och chef för Custom Cloud Solutions på Marvell, sa att AI-infrastrukturen går från isolerade servrar till integrerade system som kombinerar beräkning, minne och anslutning. Han tillade att mer oberoende minnesskalning är nödvändig för att förbättra resursutnyttjandet och hantera kostnads- och energibehovet för AI-distributioner.
AI-lagring på servernivå
Marvell Bravera SC6 PCIe 6.0 SSD-kontrollern är utformad för att stödja AI-inferensarbetsbelastningar som kräver frekvent förflyttning av KV-cachedata mellan högbandbreddsminne och SSD-lagring . Marvell säger att kontrollenheten ger dubbelt så hög hastighet som sin föregångare Bravera SC5 PCIe 5.0.
Genom att förbättra prestandan för cacheöverföring är SC6 avsedd att öka lagringseffektiviteten för AI-, moln- och företagsarbetsbelastningar. Styrenheten siktar också på lägre skrivförstärkning och längre NAND-livslängd. Stöd för NAND från flera leverantörer ger hyperskalare större flexibilitet vid sourcing och distribution av SSD-diskar.
Bravera SC6 förväntas börja provtagas under fjärde kvartalet 2026.
Rackskalig minnesutökning och poolning
Marvells minnesutbyggnadslösningar Structera X bygger på företagets befintliga Structera CXL-plattform och är utformade för att hjälpa hyperskalare att hantera minnesintensiva AI-arbetsbelastningar genom större och mer flexibla minnespooler. Plattformen, som utvecklats i samarbete med hyperskalare-partners, stöder minnesutbyggnad och resursdelning mellan servrar.
Structera X är avsett att förbättra utnyttjandet av befintliga minnesinvesteringar samtidigt som det möjliggör större modeller, längre kontextfönster och ökande KV-cachekrav. Genom att separera minneskapacitet från individuella serverkonfigurationer kan plattformen stödja mer anpassningsbara CXL-baserade expansions- och poolningsarkitekturer.
Marvell sa att metoden är utformad för att förbättra infrastrukturutnyttjandet och driftseffektiviteten samtidigt som den minskar de totala ägarkostnaderna. Den lägger också en grund för framtida CXL-minnespoolning och delningssystem.
Delat optiskt minne på podnivå
Marvells Photonic Fabric-komponenter inkluderar optiska minnesmoduler, nätverksgränssnittskontroller och chiplets för en arkitektur med delat minne som spänner över flera rack. Systemet är utformat för att ansluta XPU:er och rack över avstånd på upp till 50 meter.
Arkitekturen stöder upp till 32 TB varm KV-cache-avlastning med hög bandbredd och låg latens. Istället för att hämta KV-cachedata från lagring kan AI-system komma åt den från den delade optiska minnesnivån. Marvell sa att detta kan förbättra inferensdataflödet, stödja större modeller och längre kontextfönster samt öka tokeneffektiviteten.
Företaget prognostiserar upp till två till tre gånger högre token-genomströmning inom befintligt datacenterutrymme och strömbegränsningar. Faktisk prestanda beror på systemkonfiguration, arbetsbelastningsegenskaper och implementeringen av den omgivande AI-infrastrukturen.
Marvell visar upp portföljen på FMS 2026, monter #805. Tillkännagivandet kommer under en vecka som domineras av nyheter om inferensminne, och det stämmer överens med NVIDIAs Storage-Next och SCADA-satsning : Marvell har pekat på den arkitekturen som kräver PCIe Gen7 SSD-diskar som klarar 100 miljoner IOPS, och styrenheter som Bravera SC6 är språngbrädor mot hårddiskar byggda för GPU-driven small-block-åtkomst.
Amazon