Marvell Structera X 3406 a 3506 umisťují šest DDR4 nebo DDR5 kanálů a čtyři hostitele na jeden expandér CXL 3.2

Společnost Marvell na summitu OCP Global Summit oznámila svou druhou generaci expanzních modulů paměti Structera X CXL, čímž se řada posunula na šest paměťových kanálů, sdílení čtyř hostitelů a hostitelské propojení PCIe 6.0 x16. Structera X 3406 disponuje 18 sloty DDR4 RDIMM pro až 9 TB za jedním řadičem a Structera X 3506 disponuje 12 sloty DDR5 RDIMM pro až 6 TB. Oba moduly mají standard CXL 3.2, oproti čtyřem kanálům u modelů 2404 a 2504 první generace, a společnost Marvell očekává, že se vzorky objeví v prvním čtvrtletí roku 2027.

Čtyřhostitelská struktura představuje strukturální změnu, protože jeden řadič Structera X může prezentovat své DIMM moduly až čtyřem hostitelům najednou s celkovou šířkou pásma PCIe 6.0 až 256 GB/s, takže se zásobník DDR4 nebo DDR5 stává sdíleným kapacitním fondem pro skupinu serverů namísto soukromé rozšiřující karty pro jeden. Marvell zdůrazňuje toto párování na straně inference vázané na paměť, kde kapacita mezipaměti KV nastavuje čas do prvního tokenu a délku kontextového okna, které může server uchovávat, a na modelech doporučení pro hluboké učení, jejichž vkládací tabulky obvykle přerůstají DRAM, kterou může socket přímo adresovat.

Vysokokapacitní komprese LZ4

Integrovaný engine LZ4 dosahuje propustnosti komprese a dekomprese až 250 GB/s, což je pětinásobek oproti předchozí generaci, a Marvell uvádí, že v závislosti na pracovní zátěži poskytuje 2x až 3x efektivnější paměťovou kapacitu. U doporučených modelů Marvell uvádí až 2x vyšší počet dotazů za sekundu a 2x až 3x efektivnější kapacitu vkládacích tabulek na řadič. U obsluhy LLM uvádí o 40 % až 50 % rychlejší dobu do prvního tokenu při stejné délce kontextu nebo až 2x delší podporovaná okna kontextu při stejné latenci, v obou případech oproti částem první generace. Toto jsou výsledky dodavatelů a my jsme je neprovedli ani neauditovali.

Bezpečnostní architektura

Spolehlivost zajišťuje StructGuard, vrstva RAS od společnosti Marvell s pokročilou korekcí chyb zaměřenou na selhání zařízení DRAM. Na datové cestě kombinují řídicí jednotky postkvantovou kryptografii, Caliptra 2.0 root of trust, šifrování linky CXL IDE a šifrování paměti AES-256, což společnost Marvell označuje za první v oboru postkvantové zabezpečení na expandéru CXL.

Tyto dva díly přenášejí stack ovladačů a validaci ekosystému z modelů 2404 a 2504, které podle Marvellu již dodávají hyperškálovačům. Společnosti AMD, Arm, Alibaba, Samsung a SK hynix poskytly podpůrná prohlášení, přičemž Samsung a SK hynix poukázaly na validaci Structera se svými DDR díly. Structera X se nachází po boku akcelerátorů Structera A s téměř paměťovými procesory a Photonic Fabric Memory Appliance pro sdružování pamětí na úrovni podů, které Marvell popisuje jako portfolio sahající od rozšíření s přímým připojením až po desagregovanou paměť. Marvell bude modely 3406 a 3506 předvádět na stánku B31 do 15. října.

Specifikace ovladače

Marvell Structera CXL