Marvell Structera X 3406 i 3506 łączą sześć kanałów DDR4 lub DDR5 i cztery hosty na jednym ekspanderze CXL 3.2

Firma Marvell ogłosiła na konferencji OCP Global Summit wprowadzenie na rynek ekspanderów pamięci Structera X CXL drugiej generacji, rozszerzając linię produktów o sześć kanałów pamięci, cztery współdzielone hosty i łącze hosta PCIe 6.0 x16. Structera X 3406 obsługuje 18 gniazd DDR4 RDIMM, zapewniając do 9 TB pamięci za pomocą jednego kontrolera, a Structera X 3506 obsługuje 12 gniazd DDR5 RDIMM, zapewniając do 6 TB pamięci. Oba modele obsługują technologię CXL 3.2, w porównaniu z czterema kanałami w modelach 2404 i 2504 pierwszej generacji. Marvell spodziewa się, że ich testy odbędą się w pierwszym kwartale 2027 roku.

Struktura czterech hostów to zmiana strukturalna, ponieważ pojedynczy kontroler Structera X może udostępnić swoje moduły DIMM maksymalnie czterem hostom jednocześnie, przy łącznej przepustowości PCIe 6.0 do 256 GB/s. Dzięki temu tacka DDR4 lub DDR5 staje się wspólną pulą pojemności dla grupy serwerów, zamiast prywatnej karty rozszerzeń dla jednego. Marvell przedstawia to połączenie w kontekście inferencji ograniczonej pamięcią, gdzie pojemność pamięci podręcznej KV określa czas do pierwszego tokena i czas trwania okna kontekstowego, jaki serwer może utrzymać, oraz w modelach rekomendacji głębokiego uczenia, których tabele osadzania zazwyczaj przekraczają możliwości pamięci DRAM, którą gniazdo może bezpośrednio adresować.

Kompresja LZ4 o wysokiej przepustowości

Wbudowany silnik LZ4 osiąga przepustowość kompresji i dekompresji do 250 GB/s, czyli pięciokrotnie większą niż w poprzedniej generacji, a Marvell twierdzi, że zapewnia on od 2 do 3 razy większą efektywną pojemność pamięci, w zależności od obciążenia. W przypadku modeli rekomendacji Marvell deklaruje do 2 razy większą liczbę zapytań na sekundę i od 2 do 3 razy większą efektywną pojemność tabeli osadzania na kontroler. W przypadku obsługi LLM deklaruje od 40% do 50% krótszy czas do pierwszego tokena przy tej samej długości kontekstu lub do 2 razy dłuższe obsługiwane okna kontekstowe przy tym samym opóźnieniu, w obu przypadkach w porównaniu z komponentami pierwszej generacji. Są to wyniki od dostawców, nie były one przez nas sprawdzane ani audytowane.

Architektura bezpieczeństwa

Niezawodność zapewnia technologia StructGuard, warstwa RAS firmy Marvell z zaawansowaną korekcją błędów, ukierunkowaną na awarie urządzeń DRAM. Na ścieżce danych kontrolery łączą kryptografię postkwantową, źródło zaufania Caliptra 2.0, szyfrowanie łącza IDE CXL oraz szyfrowanie pamięci AES-256, co Marvell uznaje za pierwsze w branży zabezpieczenie postkwantowe w ekspanderze CXL.

Obie części przejęły stos sterowników i walidację ekosystemu z układów 2404 i 2504, które według Marvella są już dostarczane do hiperskalerów. AMD, Arm, Alibaba, Samsung i SK Hynix dostarczyły oświadczenia potwierdzające, przy czym Samsung i SK Hynix wskazały na walidację Structera w swoich modułach DDR. Structera X znajduje się obok akceleratorów Structera A typu near-memory oraz urządzenia Photonic Fabric Memory Appliance do pulowania na poziomie podów, które Marvell opisuje jako portfolio obejmujące zarówno rozbudowę bezpośrednio podłączaną, jak i pamięć rozproszoną. Marvell prezentuje układy 3406 i 3506 na stoisku B31 do 15 października.

Specyfikacje kontrolera

Marvell Structera CXL