Os modelos Marvell Structera X 3406 e 3506 permitem conectar seis canais DDR4 ou DDR5 e quatro hosts em um único expansor CXL 3.2.

A Marvell anunciou a segunda geração de seus expansores de memória Structera X CXL na OCP Global Summit, elevando a linha para seis canais de memória, compartilhamento de quatro hosts e um link de host PCIe 6.0 x16. O Structera X 3406 suporta 18 slots DDR4 RDIMM para até 9 TB atrás de um único controlador, enquanto o Structera X 3506 suporta 12 slots DDR5 RDIMM para até 6 TB. Ambos são CXL 3.2, um avanço em relação aos quatro canais da primeira geração, os modelos 2404 e 2504, e a Marvell espera que as amostras estejam disponíveis no primeiro trimestre de 2027.

A mudança estrutural reside na arquitetura de quatro hosts, pois um único controlador Structera X pode apresentar seus módulos DIMM para até quatro hosts simultaneamente, com uma largura de banda agregada de até 256 GB/s em PCIe 6.0. Dessa forma, um slot de memória DDR4 ou DDR5 torna-se um pool de capacidade compartilhada para um grupo de servidores, em vez de uma placa de expansão privada para um único servidor. A Marvell apresenta essa combinação tanto para o lado da inferência com gargalo de memória, onde a capacidade do cache KV define o tempo até o primeiro token e a duração de uma janela de contexto que um servidor pode manter, quanto para modelos de recomendação de aprendizado profundo, cujas tabelas de embeddings normalmente ultrapassam a capacidade de endereçamento direto da DRAM de um soquete.

Compressão LZ4 de alto rendimento

O mecanismo LZ4 integrado atinge até 250 GB/s de taxa de transferência de compressão e descompressão, cinco vezes maior que a geração anterior, e a Marvell afirma que proporciona de 2 a 3 vezes mais capacidade de memória efetiva, dependendo da carga de trabalho. Para modelos de recomendação, a Marvell alega até 2 vezes mais consultas por segundo e de 2 a 3 vezes mais capacidade efetiva de tabelas de incorporação por controlador. Para o serviço LLM, alega um tempo até o primeiro token de 40% a 50% mais rápido com o mesmo comprimento de contexto, ou janelas de contexto suportadas até 2 vezes maiores com a mesma latência, em ambos os casos em comparação com os componentes de primeira geração. Esses são resultados do fornecedor e não os executamos nem os auditamos.

Arquitetura de Segurança

A confiabilidade provém do StructGuard, a camada RAS da Marvell com correção de erros avançada voltada para falhas de dispositivos DRAM. No caminho de dados, os controladores combinam criptografia pós-quântica, raiz de confiança Caliptra 2.0, criptografia de link CXL IDE e criptografia de memória AES-256, que a Marvell considera uma inovação inédita no setor para segurança pós-quântica em um expansor CXL.

As duas versões herdam a pilha de drivers e a validação do ecossistema dos modelos 2404 e 2504, que, segundo a Marvell, já estão sendo enviados para provedores de hiperescala. AMD, Arm, Alibaba, Samsung e SK hynix emitiram declarações de apoio, com a Samsung e a SK hynix destacando a validação do Structera com seus componentes DDR. O Structera X se junta aos aceleradores near-memory Structera A e ao Photonic Fabric Memory Appliance para pooling em nível de pod, que a Marvell descreve como um portfólio que abrange desde expansão de conexão direta até memória desagregada. A Marvell está demonstrando os modelos 3406 e 3506 no estande B31 até 15 de outubro.

Especificações do controlador

Marvell Structera CXL