首页 企业AI WEKA 推出 NVIDIA 集成和增强内存网格

WEKA 推出 NVIDIA 集成和增强内存网格

by 哈罗德弗里茨

WEKA 用于 AI 推理的增强内存可提高 GPU 效率、降低延迟和成本,同时扩展 AI 模型以适应企业工作负载。

WEKA 宣布与 NVIDIA AI 数据平台参考设计进行战略整合。它获得了关键的 NVIDIA 存储认证,可提供专为代理 AI 和复杂推理模型量身定制的优化基础设施。除了此公告外,WEKA 还推出了其创新的增强内存网格功能和其他 NVIDIA 云合作伙伴 (NCP) 参考架构认证,包括 NVIDIA GB200 NVL72 和用于企业级 AI 工厂部署的 NVIDIA 认证系统存储。

加速人工智能代理

NVIDIA AI 数据平台代表了企业 AI 基础架构的重大飞跃,无缝集成了 NVIDIA Blackwell 架构、NVIDIA BlueField DPU、Spectrum-X 网络和 NVIDIA AI Enterprise 软件。通过将这种先进的 NVIDIA 基础架构与 WEKA 数据平台相结合,企业可以部署专为高性能 AI 推理工作负载设计的大规模可扩展存储基础。

该集成解决方案直接满足了企业 AI 日益增长的需求,为 AI 查询代理提供了无缝、加速访问关键业务智能的能力,从而显著提高了推理性能和推理准确性。WEKA 的数据平台确保 AI 系统能够快速将数据转化为可操作的情报,从而支持下一代 AI 模型所需的复杂推理。

WEKA 增强记忆网格

Agentic AI 模型不断发展,可以管理更大的上下文窗口、扩展的参数数量和更大的内存需求。这些进步通常会突破传统 GPU 内存容量的极限,从而造成 AI 推理的瓶颈。WEKA 通过其突破性的增强内存网格解决方案解决了这些挑战,这项创新扩展了 AI 工作负载的可用内存,提供了 PB 级增量——远远超出了当前单 TB 的限制。

用于 AI 推理的增强记忆 - 增强记忆网格

WEKA 的增强内存网格将 WEKA 的数据平台软件与 NVIDIA 的加速计算和网络技术相结合,显著增强了 AI 推理能力。这种组合实现了接近内存速度的访问,延迟仅为微秒,从而大大提高了令牌处理性能和整体 AI 推理效率。

WEKA 增强内存网格的主要优势包括:

  • 大幅减少延迟:在涉及 105,000 个令牌的测试中,与传统的重新计算方法相比,WEKA 的增强内存网格在第一个令牌的时间方面实现了显著的 41 倍改进。

  • 优化令牌吞吐量:WEKA 的解决方案能够高效处理跨集群的推理工作负载,以更低的总体成本实现更高的令牌吞吐量,从而将系统范围内每个令牌的处理成本降低高达 24%。

这些性能提升直接转化为经济效率的提高,使企业能够在不损害模型能力或基础设施性能的情况下加速人工智能驱动的创新。

WEKApod Nitro

WEKApod Nitro 数据平台设备已获得多项 NVIDIA 认证,使 WEKA 成为企业 AI 领先的高性能存储提供商:

  • NVIDIA 云合作伙伴 (NCP) 认证:WEKApod Nitro 是首批获得 NVIDIA NCP 参考架构认证的存储解决方案之一,包括 HGX H200、B200 和 GB200 NVL72。这些设备支持大规模 GPU 集群(1,152U 配置中最多 8 个 GPU),同时保持卓越的性能密度和能效,为服务提供商和开发人员提供支持。

  • NVIDIA 认证系统存储指定:WEKApod Nitro 设备已获得 NVIDIA 的新企业存储认证,确保与 NVIDIA 企业参考架构和最佳实践兼容。此称号证明 WEKA 的数据平台可为要求苛刻的企业 AI 和 HPC 部署提供最佳的存储性能、效率和可扩展性。

WEKA 首席产品官 Nilesh Patel 强调了与 NVIDIA 的此次合作所带来的变革潜力。Patel 将这一发展与航空航天领域的突破进行了比较,他表示:“就像突破音障开辟了新领域一样,WEKA 的增强内存网格打破了 AI 内存障碍,大大扩展了 GPU 内存并优化了代币效率。这项创新从根本上改变了 AI 代币经济学,在不牺牲性能的情况下实现了更快的创新和更低的成本。”

NVIDIA 存储网络技术副总裁 Rob Davis 进一步强调了这种集成的重要性:“部署代理 AI 和推理模型的企业需要前所未有的效率和可扩展性。结合 NVIDIA 和 WEKA 技术可确保 AI 代理在推理过程中以无与伦比的速度和准确性访问和处理数据。”

可用性

  • WEKA 针对 NVIDIA Blackwell 系统的 NCP 参考架构将于三月份上市。
  • WEKA 增强内存网格功能将于 2025 年春季向 WEKA 数据平台客户全面开放。

参与 StorageReview

电子报 | YouTube | 播客 iTunes/Spotify | Instagram | Twitter | TikTok | RSS订阅