Společnost XCENA na konferenci OCP Global Summit 2026 v San Jose předvedla dvě demonstrace inference umělé inteligence postavené na své výpočetní paměti MX1 CXL: mezipaměť KV sdílená mezi inferenčními servery prostřednictvím paměťového fondu CXL a vektorové vyhledávání pro generování s rozšířeným vyhledáváním (RAG) běžící uvnitř paměťového zařízení. Společnost SK hynix také na svém stánku představila produkt CXL Hybrid Memory postavený na čipu MX1 a obě společnosti společně optimalizují výkon sdílené paměti založené na RDMA.
MX1 je paměťové zařízení CXL 3.2 Type 3, které XCENA označuje za první výpočetní paměť CXL 3.2 s rozhraním PCIe 6.0 dual x8 a podporou až 2 TB DRAM s využitím 256GB DIMM modulů, tj. dvou DIMM modulů na kanál. Kromě rozšíření paměti řadič obsahuje tisíce vlastních jader RISC-V s vektorovými enginy FP32 a FP16 pro zpracování téměř datových dat a samostatný kořenový komplex PCIe 6.0, který připojuje SSD disky pro to, co XCENA nazývá InfiniteMemory.
Sdílená mezipaměť KV a vyhledávání vektorů v paměti
V první demonstraci sdílelo několik inferenčních serverů jednu mezipaměť KV uloženou v paměťovém fondu CXL. Mezipaměť KV ukládá kontext, který model již zpracoval, takže jej lze znovu použít během generování, a jeho uchovávání ve sdíleném fondu odstraňuje duplicitní kopie, které by jinak každý server uchovával, spolu s přesunem dat mezi servery. Tento přístup je paralelní s demonstrací sdružování CMM-D od Samsungu s AMD na stejné výstavě a naše testování odlehčení mezipaměti KV do flash paměti pokrývá i nižší flash vrstvu.
Druhá demonstrace využila zpracování dat v MX1 k urychlení vektorového vyhledávání, což je klíčový krok v RAG pipeline. MX1 provádí vyhledávání uvnitř paměti, kde se nacházejí vektorová data, takže velké datové sady se nemusí při každém dotazu přesouvat do hostitelského procesoru. XCENA nezveřejnila údaje o latenci, propustnosti ani kapacitě pro žádnou z demonstrací ani nepopsala konfiguraci serveru, která se za nimi skrývá.
Hybridní paměť SK hynix CXL postavená na MX1
Hybridní paměť CXL od SK hynix spojuje DRAM s kapacitou SSD prostřednictvím InfiniteMemory, rozšíření paměti MX1 s podporou SSD. Obě společnosti tvrdí, že architektura škáluje kapacitu paměti daleko za hranice konvenčních modulů CMM-D DRAM a zároveň dosahuje lepších výsledků než SSD. Nyní ji ověřují v reálných prostředích s využitím umělé inteligence. Na summitu SK hynix ukázal hybridní paměť v architektuře založené na RDMA, což je cesta sdílené paměti, kterou obě společnosti společně ladí v návaznosti na práci se sdruženou pamětí CXL v rámci demonstrací na FMS 2026.
Setkání se společnostmi Samsung, Marvell, Microsoft, Seagate a Meta
Harry Kim, produktový ředitel společnosti XCENA, 14. října prezentoval téma „Přinášení univerzálního paralelního programování do zpracování blízkých dat“ a připojil se ke společnostem Marvell, Samsung, SK hynix a Gottbrath Technologies na panelové diskusi o otevřeném middlewaru pro heterogenní infrastrukturu umělé inteligence. 15. října společně se společností Samsung Electronics prezentoval sekci o disagregované paměti CXL pro agentní umělou inteligenci, která se zabývala dynamickým sdružováním, sdílením a odlehčením zátěže blízkých dat. Významný inženýr Grant Mackey se ve stejný den připojil k řečníkům ze společností Microsoft, Seagate a Meta na technické aktualizaci dílčího projektu OCP Composable Memory Systems o paměťové zdi.
„Zlepšení výkonu a efektivity infrastruktury umělé inteligence již není pouze výpočetní výzvou. Záleží také na tom, jak efektivně se využívá paměť a kolik dat lze eliminovat,“ uvedl Jin Kim, generální ředitel společnosti XCENA. Společnost dosud získala 185 milionů dolarů, včetně investic do série B v hodnotě 135 milionů dolarů, a její sídlo se nachází v jihokorejském Seongnamu a kancelář v USA v kalifornském Sunnyvale.
Amazon