Supermicro သည် IBM နှင့် NVIDIA တို့နှင့်အတူ KV cache storage solution တစ်ခုကို ယနေ့ကြေညာခဲ့ပြီး ၎င်းသည် GPU မှ long-context inference နောက်ကွယ်ရှိ key-value state ကို shared all-flash tier သို့ ရွှေ့ပြောင်းပေးသည်။ ၎င်း package တွင် AMD EPYC 9005 processors၊ IBM Storage Scale၊ NVIDIA Dynamo နှင့် NVIDIA Spectrum-X Ethernet ပေါ်ရှိ Supermicro Petascale storage server များကို ပေါင်းစပ်ထားပြီး ကုမ္ပဏီများက ၎င်းကို ထောက်ခံကြသည်။













အမေဇုံ