存储评论网

Cloudian 与 NVIDIA 合作,提供具有云级性能的本地 AI 服务器

AI  ◇  企业版

大约 80% 的企业数据仍然无法被人工智能系统访问,这是由于数据主权限制和基础设施复杂性所致,迫使企业在创新和对其最宝贵资产的控制之间做出选择。

主要问题在于企业存储数据的方式与AI系统访问数据的方式之间存在根本性的不匹配。大多数企业数据都以非结构化格式存储,例如电子邮件、文档、医学影像、传感器数据等等。然而,传统的AI基础设施要么需要将这些敏感数据迁移到云服务,要么需要投资昂贵且复杂的本地AI堆栈,而这需要许多IT团队缺乏专业知识。

在医疗保健、金融和政府等受监管的行业中,这会导致痛苦的权衡:牺牲安全性和合规性来访问人工智能功能,或者将数据保留在本地并冒着落后于使用人工智能来获得更快洞察的竞争对手的风险。

Cloudian 与 NVIDIA 的战略合作

Cloudian 与 NVIDIA 合作,通过业界首款完全本地部署的 AI 服务器来应对这一挑战,提供云级性能。全新 Cloudian HyperScale AI 数据平台于 9 月 30 日发布,将 AI 计算直接引入企业数据存储,从而无需进行风险高昂且成本高昂的数据移动。

该解决方案基于NVIDIA RTX PRO 6000 Blackwell 服务器版 GPU构建,首次采用 S3 over RDMA(远程直接内存访问)技术,性能提升高达八倍。该平台单节点读取速度可达 35GB/s,并可线性扩展至每机架每秒 TB 级,满足生成式 AI 工作负载的速度需求。

NVIDIA RTX PRO 6000

关键技术创新

  • 嵌入式矢量数据库: 与传统系统依赖独立的 AI 层不同,Cloudian 平台将矢量化直接集成到存储层。数据在写入时会自动分类并转换为矢量,从而通过标准 S3 API 实现即时 AI 就绪。
  • 直接数据路径: 利用 NVIDIA AI Enterprise 软件和 Spectrum-X 以太网网络该系统通过超低延迟管道连接存储、系统内存和 GPU 内存。这种架构绕过了经常阻碍企业 AI 项目的瓶颈。
  • 本地主权: HyperScale AI 平台将所有操作保留在企业范围内,确保合规性、安全性和治理,同时利用最新的 AI 技术。

启示

对于企业而言,这一突破可能会改变人工智能创新与数据治理之间持续争论的平衡。通过使组织能够直接在主权数据上运行大规模人工智能,受监管的行业包括:

  • 医疗保健 可以分析大量的患者记录和影像数据,而不会有违反 HIPAA 的风险。
  • 金融 公司可以加强欺诈检测和风险建模,同时遵守严格的数据驻留法律。
  • 政府机构 可以安全地从历史和实时数据中获取情报见解,而无需数据离开国家基础设施。

行业分析师认为,这是迈向“无需云端即可实现类云 AI 性能”的重要一步。早期采用者预计将使用该平台进行矢量搜索、实时推荐、预测分析和多模态生成 AI,同时确保完整的数据驻留。

这一发展也可能加剧人工智能基础设施市场的竞争。AWS、微软和谷歌等超大规模企业已通过将人工智能与云数据存储相结合占据主导地位。Cloudian 与 NVIDIA 的合作,为那些既追求性能又注重自主权的企业开辟了一条新的发展道路。

Cloudian

以下是 HyperScale AIDP 的简短演示

参与 StorageReview

电子报| YouTube | 播客iTunes / Spotify | Instagram | Twitter | TikTok | RSS订阅

哈罗德弗里茨

自 IBM 创建 Selectric 以来,我一直在科技行业工作。 不过,我的背景是写作。 因此,我决定退出售前业务,回归本源,从事一些写作工作,但仍从事技术工作。