XCENA သည် San Jose တွင်ကျင်းပသော OCP Global Summit 2026 တွင် ၎င်း၏ MX1 CXL တွက်ချက်မှုမှတ်ဉာဏ်ပေါ်တွင်တည်ဆောက်ထားသော AI inference သရုပ်ပြမှုနှစ်ခုကို ပြသခဲ့သည်- CXL မှတ်ဉာဏ် pool မှတစ်ဆင့် inference server များတစ်လျှောက်မျှဝေထားသော KV cache နှင့် မှတ်ဉာဏ်စက်အတွင်းရှိ retrieval-augmented generation (RAG) အတွက် vector search တို့ဖြစ်သည်။ SK hynix သည် ၎င်း၏ပြခန်းတွင် MX1 ချစ်ပ်ပေါ်တွင်တည်ဆောက်ထားသော CXL Hybrid Memory ထုတ်ကုန်တစ်ခုကိုလည်း မိတ်ဆက်ခဲ့ပြီး ကုမ္ပဏီနှစ်ခုသည် RDMA-based shared-memory စွမ်းဆောင်ရည်ကို ပူးတွဲအကောင်းဆုံးဖြစ်အောင် လုပ်ဆောင်နေကြသည်။
MX1 သည် CXL 3.2 Type 3 မှတ်ဉာဏ်ကိရိယာတစ်ခုဖြစ်ပြီး XCENA မှ ပထမဆုံး CXL 3.2 တွက်ချက်မှုမှတ်ဉာဏ်အဖြစ် ကြေငြာထားပြီး PCIe 6.0 dual x8 interface နှင့် channel တစ်ခုလျှင် DIMM နှစ်ခုဖြင့် 256GB DIMM များကို အသုံးပြု၍ DRAM 2TB အထိ ပံ့ပိုးပေးပါသည်။ မှတ်ဉာဏ်တိုးချဲ့မှုနှင့်အတူ၊ controller တွင် near-data processing အတွက် FP32 နှင့် FP16 vector engine များပါရှိသော custom RISC-V core ထောင်ပေါင်းများစွာ ပါဝင်ပြီး XCENA က InfiniteMemory ဟုခေါ်သော SSD များနှင့် ချိတ်ဆက်ပေးသည့် သီးခြား PCIe 6.0 root complex တစ်ခုလည်း ပါရှိသည်။
မျှဝေထားသော KV Cache နှင့် In-Memory Vector ရှာဖွေမှု
ပထမဆုံး သရုပ်ပြမှုမှာ၊ inference server များစွာဟာ CXL memory pool တစ်ခုမှာ သိမ်းဆည်းထားတဲ့ KV cache တစ်ခုကို မျှဝေအသုံးပြုခဲ့ကြပါတယ်။ KV cache ဟာ မော်ဒယ်တစ်ခုက လုပ်ဆောင်ပြီးသား context ကို သိမ်းဆည်းပေးတာကြောင့် ထုတ်လုပ်မှုအတွင်းမှာ ပြန်လည်အသုံးပြုနိုင်ပြီး shared pool မှာ သိမ်းဆည်းထားခြင်းအားဖြင့် server တစ်ခုစီက သိမ်းဆည်းထားတဲ့ မိတ္တူမိတ္တူတွေနဲ့အတူ server တွေအကြား data ရွှေ့ပြောင်းမှုကို ဖယ်ရှားပေးပါတယ်။ ဒီနည်းလမ်းဟာ Samsung ရဲ့ CMM-D pooling demo ကို AMD နဲ့ တူညီတဲ့ show မှာ ပြသခဲ့ပြီး၊ ကျွန်ုပ်တို့ရဲ့ KV cache ကို flash testing မှာ offload လုပ်ခြင်းဟာ ၎င်းအောက်က flash tier ကို လွှမ်းခြုံထားပါတယ်။
ဒုတိယသရုပ်ပြမှုတွင် RAG pipelines များတွင် အဓိကအဆင့်ဖြစ်သော vector search ကို အရှိန်မြှင့်ရန် MX1 ၏ near-data processing ကို အသုံးပြုခဲ့သည်။ MX1 သည် vector data ရှိသည့် memory အတွင်းတွင် ရှာဖွေမှုကို လုပ်ဆောင်သောကြောင့် dataset ကြီးများသည် query တိုင်းတွင် host processor သို့ ရွှေ့ရန် မလိုအပ်ပါ။ XCENA သည် သရုပ်ပြမှုအတွက် latency၊ throughput သို့မဟုတ် capacity ကိန်းဂဏန်းများကို မထုတ်ဝေရသေးပါ သို့မဟုတ် ၎င်းတို့နောက်ကွယ်ရှိ server configuration ကို မဖော်ပြရသေးပါ။
MX1 ပေါ်တွင်တည်ဆောက်ထားသော SK hynix CXL Hybrid Memory
SK hynix ရဲ့ CXL Hybrid Memory ဟာ MX1 ရဲ့ SSD-backed memory expansion ဖြစ်တဲ့ InfiniteMemory မှတစ်ဆင့် DRAM နဲ့ SSD capacity ကို တွဲဖက်ပေးပါတယ်။ ဒီဗိသုကာလက်ရာဟာ သမားရိုးကျ CMM-D DRAM modules တွေထက် မှတ်ဉာဏ်စွမ်းရည်ကို ပိုမိုကောင်းမွန်စွာ ချိန်ညှိပေးနိုင်ပြီး SSDs တွေထက်လည်း ပိုမိုကောင်းမွန်စွာ စွမ်းဆောင်ရည်ရှိတယ်လို့ ကုမ္ပဏီနှစ်ခုက ပြောကြားခဲ့ပြီး အခုဆိုရင် လက်တွေ့ AI serving environments တွေမှာ validation လုပ်နေကြပါပြီ။ ထိပ်သီးအစည်းအဝေးမှာ SK hynix ဟာ RDMA-based architecture မှာ hybrid memory ကို ပြသခဲ့ပါတယ်။ ဒီ shared-memory path ဟာ ကုမ္ပဏီနှစ်ခု ပူးပေါင်းချိန်ညှိနေတဲ့ shared-memory path ဖြစ်ပြီး CXL ရဲ့ FMS 2026 demonstrations မှာ pooled memory လုပ်ဆောင်ချက်ကို လိုက်နာခဲ့ပါတယ် ။
Samsung၊ Marvell၊ Microsoft၊ Seagate နှင့် Meta တို့နှင့်အတူ အစည်းအဝေးများ
XCENA ၏ ထုတ်ကုန်အရာရှိချုပ် Harry Kim သည် အောက်တိုဘာ ၁၄ ရက်တွင် “Bringing General-Purpose Parallel Programming to Near-Data Processing” ကို ඉදිරියටတင်ပြခဲ့ပြီး Marvell၊ Samsung၊ SK hynix နှင့် Gottbrath Technologies တို့နှင့်အတူ heterogeneous AI အခြေခံအဆောက်အအုံအတွက် open middleware အကြောင်း ဆွေးနွေးပွဲတစ်ခုတွင် ပါဝင်ခဲ့သည်။ အောက်တိုဘာ ၁၅ ရက်တွင် သူသည် Samsung Electronics နှင့်အတူ dynamic pooling၊ sharing နှင့် processing-near-memory offload တို့ကို လွှမ်းခြုံထားသော agentic AI အတွက် disaggregated CXL memory အကြောင်း အစည်းအဝေးတစ်ခုကို ပူးတွဲတင်ပြခဲ့သည်။ ထူးချွန်သောအင်ဂျင်နီယာ Grant Mackey သည် memory wall ပေါ်ရှိ OCP Composable Memory Systems Sub-Project နည်းပညာဆိုင်ရာ အပ်ဒိတ်အတွက် ထိုနေ့တွင်ပင် Microsoft၊ Seagate နှင့် Meta မှ ဟောပြောသူများနှင့် ပူးပေါင်းခဲ့သည်။
“AI အခြေခံအဆောက်အအုံ စွမ်းဆောင်ရည်နှင့် ထိရောက်မှု မြှင့်တင်ခြင်းသည် တွက်ချက်မှုဆိုင်ရာ စိန်ခေါ်မှုတစ်ခုမျှသာ မဟုတ်တော့ပါ။ ၎င်းသည် မှတ်ဉာဏ်ကို မည်မျှထိရောက်စွာ အသုံးပြုသည်နှင့် ဒေတာရွှေ့ပြောင်းမှုကို မည်မျှဖယ်ရှားနိုင်သည်ပေါ်တွင်လည်း မူတည်ပါသည်” ဟု XCENA ၏ CEO ဖြစ်သူ Jin Kim က ပြောကြားခဲ့သည်။ ကုမ္ပဏီသည် ယနေ့အထိ အမေရိကန်ဒေါ်လာ ၁၈၅ သန်း ရရှိထားပြီဖြစ်ပြီး အမေရိကန်ဒေါ်လာ ၁၃၅ သန်း Series B အပါအဝင်ဖြစ်ကာ တောင်ကိုရီးယားနိုင်ငံ၊ Seongnam တွင် ရုံးချုပ်ရှိပြီး ကယ်လီဖိုးနီးယားပြည်နယ်၊ Sunnyvale တွင် အမေရိကန်ရုံးခွဲတစ်ခုရှိသည်။
အမေဇုံ