На выставке OCP Global Summit 2026 в Сан-Хосе компания XCENA продемонстрировала две системы вывода ИИ, построенные на основе вычислительной памяти MX1 CXL: кэш ключ-значение, разделяемый между серверами вывода через пул памяти CXL, и векторный поиск для генерации с дополненной реальностью (RAG), выполняемый внутри запоминающего устройства. Компания SK hynix также представила на своем стенде продукт CXL Hybrid Memory, построенный на чипе MX1, и обе компании совместно оптимизируют производительность общей памяти на основе RDMA.
MX1 — это устройство памяти CXL 3.2 Type 3, которое XCENA позиционирует как первую вычислительную память CXL 3.2 с интерфейсом PCIe 6.0 dual x8 и поддержкой до 2 ТБ DRAM с использованием модулей DIMM по 256 ГБ (по два модуля DIMM на канал). Помимо расширения памяти, контроллер содержит тысячи специализированных ядер RISC-V с векторными процессорами FP32 и FP16 для обработки данных, а также отдельный корневой комплекс PCIe 6.0, к которому подключаются SSD-накопители для того, что XCENA называет InfiniteMemory.
Общий кэш ключ-значение и векторный поиск в оперативной памяти
В первой демонстрации несколько серверов вывода совместно использовали один кэш ключ-значение, расположенный в пуле памяти CXL. Кэш ключ-значение хранит контекст, который модель уже обработала, чтобы его можно было повторно использовать во время генерации, а размещение его в общем пуле устраняет дубликаты, которые в противном случае хранились бы на каждом сервере, а также перемещение данных между серверами. Этот подход аналогичен демонстрации объединения пулов CMM-D от Samsung и AMD на той же выставке, а наше тестирование переноса данных из кэша ключ-значение во флэш-память охватывает уровень флэш-памяти ниже.
Во второй демонстрации использовалась обработка данных вблизи памяти процессора MX1 для ускорения векторного поиска — ключевого этапа в конвейерах RAG. MX1 выполняет поиск в памяти, где хранятся векторные данные, поэтому большие наборы данных не нужно перемещать на главный процессор при каждом запросе. Компания XCENA не опубликовала данные о задержке, пропускной способности или производительности ни для одной из демонстраций, а также не описала конфигурацию сервера, лежащую в их основе.
SK hynix CXL Hybrid Memory Built on MX1
Гибридная память CXL от SK hynix сочетает в себе DRAM и емкость SSD благодаря технологии InfiniteMemory, расширению памяти на основе SSD от MX1. Обе компании заявляют, что эта архитектура значительно увеличивает объем памяти по сравнению с обычными модулями DRAM CMM-D, при этом превосходя по производительности SSD, и в настоящее время они проверяют ее в реальных условиях эксплуатации систем искусственного интеллекта. На саммите SK hynix продемонстрировала гибридную память в архитектуре на основе RDMA — пути к общей памяти, который обе компании совместно настраивают после работы над объединенной памятью CXL в своих демонстрациях на FMS 2026.
Встречи с компаниями Samsung, Marvell, Microsoft, Seagate и Meta.
14 октября главный директор по продуктам XCENA Гарри Ким представил доклад «Внедрение параллельного программирования общего назначения в обработку данных вблизи источников» и вместе с представителями Marvell, Samsung, SK hynix и Gottbrath Technologies принял участие в панельной дискуссии об открытом промежуточном программном обеспечении для гетерогенной инфраструктуры ИИ. 15 октября он совместно с Samsung Electronics провел сессию, посвященную дезагрегированной памяти CXL для агентного ИИ, охватив динамическое объединение, совместное использование и разгрузку обработки данных вблизи источников. В тот же день ведущий инженер Грант Макки вместе с докладчиками из Microsoft, Seagate и Meta принял участие в техническом обновлении по подпроекту OCP Composable Memory Systems, посвященном перспективам развития памяти.
«Повышение производительности и эффективности инфраструктуры ИИ больше не является исключительно вычислительной задачей. Это также зависит от того, насколько эффективно используется память и насколько можно исключить перемещение данных», — сказал Джин Ким, генеральный директор XCENA. Компания привлекла на сегодняшний день 185 миллионов долларов, включая 135 миллионов долларов в рамках раунда финансирования серии B, и имеет штаб-квартиру в Соннаме, Южная Корея, а также офис в США в Саннивейле, Калифорния.
Amazon