存储评论网

NVIDIA 为搭载 B200 芯片的 AX K2、K-EXAONE、Solar Open 2 和 Motif-3 显卡发布了 Dynamo Recipes,声称性能提升高达 2 倍。

AI  ◇  企业版

在首尔人工智能日 (AI Day Seoul) 上,NVIDIA 发布了针对四款韩国开源模型的 Dynamo 部署方案:SK Telecom 的 AX K2、LG AI Research 的 K-EXAONE 2.0、Upstage 的 Solar Open 2 以及 Motif Technologies 的 Motif-3。这些方案针对 NVIDIA B200 GPU 进行了优化,NVIDIA 表示,它们开箱即用即可提供高达 2 倍的性能提升,但并未透露该数据背后的基准、工作负载或服务配置。此次发布会还同时公布了一系列关于韩国的公告,涵盖代理安全、主权基础设施和初创企业投资等领域。

NVIDIA渲染图展示了一排排深色服务器机架,其中一颗芯片发出绿色的光芒,前景是韩国的轮廓和国旗,以此说明NVIDIA Dynamo针对韩国开放模型的配方。

四款韩国公开赛车型的动力配方

Dynamo 是 NVIDIA 的开源分布式推理服务框架,适用于数据中心规模的多节点部署。当一个模型跨越多个 GPU 时,它负责处理请求路由和 GPU 之间的通信。每个模型都包含一个配置包,其中包含特定模型的服务配置,因此团队无需从头开始调优即可将其部署到生产环境中。

NVIDIA 表示,这四项技术方案旨在加快韩国开放模型投入生产,并将其应用于政府“全民人工智能”计划资助的服务中。根据该计划,NVIDIA 将与三个选定的联盟和四个韩国基础模型构建机构合作,优化和扩展 Dynamo 上的推理能力。

代理安全

现代汽车集团正在探索使用 NVIDIA NemoClaw 蓝图和NVIDIA OpenShell运行时环境来构建企业级 AI 代理。OpenShell 是 NVIDIA 开放代理安全平台的一部分,它提供沙盒执行环境,并对敏感数据、企业工具访问和自主代理行为进行基于策略的控制。

NVIDIA OpenShell 参考架构图形,包含三个深色面板:带有策略、锁定和监控图标的 BlueField DPU 芯片,带有吞吐量、效率和安全图标的 Vera Rubin NVL72 计算托盘,以及带有吞吐量、效率和安全图标的 Vera CPU 芯片。

韩国人工智能安全公司AIM Intelligence正在将其Starfort代理控制平台与OpenShell集成,将OpenShell的运行时访问控制与Starfort的恶意指令和数据泄露检测功能相结合。AIM Intelligence正在考虑在公共能源领域进行初步的概念验证,未来可能会将其部署到企业、工业和机器人领域。

LG AI Research 开放了其基于 NVIDIA Nemotron 数据集(包括包含 7 万个完全合成的韩国人格的 Nemotron-Personas-Korea 数据集)开发的 K-EXAONE-2.5 模型的 API 访问权限。NVIDIA 的公告中使用了两个 LG 模型的版本号:API 公告中使用的是 K-EXAONE-2.5,而 Dynamo 配方则针对 K-EXAONE 2.0。

主权人工智能基础设施和初创企业

英伟达 (NVIDIA) 与韩国科学技术信息通信部 (MSICT) 正在拓展双方的合作,从人工智能半导体和数据中心基础设施领域延伸至人才、初创企业、模型、代理和安全领域。该协议为韩国的 NPU 和 XPU 公司提供了探索 NVLink Fusion 生态系统的途径,首个具体成果是Rebellions R200 与 SK Telecom 的合作计划,该计划采用英伟达 GPU 进行预填充,Rebellions NPU 进行解码,目标是在 2028 年实现。此次合作还涵盖英伟达的培训和认证项目、黑客马拉松以及旨在提高 GPU 利用率的技术研讨会。

在初创企业方面,英伟达宣布投资Point2,并计划投资Motif Technologies、RLWRLD和Upstage,其中两家是Dynamo配方模型构建器四家公司之一。韩国科学技术信息通信部副部长柳济明在MSIT-英伟达人工智能初创企业合作论坛上会见了20多家韩国初创企业。此外,英伟达的Inception计划在韩国拥有超过1,000名成员。

NVIDIA Dynamo

参与 StorageReview

电子报| YouTube | 播客iTunes / Spotify | Instagram | Twitter | TikTok | RSS订阅

哈罗德弗里茨

自 IBM 创建 Selectric 以来,我一直在科技行业工作。 不过,我的背景是写作。 因此,我决定退出售前业务,回归本源,从事一些写作工作,但仍从事技术工作。