存儲評論網

NVIDIA 為搭載 B200 晶片的 AX K2、K-EXAONE、Solar Open 2 和 Motif-3 顯示卡發布了 Dynamo Recipes,聲稱效能提升高達 2 倍。

AI  ◇  企業

在首爾人工智慧日 (AI Day Seoul) 上,NVIDIA 發布了四款韓國開源模式的 Dynamo 部署方案:SK Telecom 的 AX K2、LG AI Research 的 K-EXAONE 2.0、Upstage 的 Solar Open 2 以及 Motif Technologies 的 Motif-3。這些方案針對 NVIDIA B200 GPU 進行了最佳化,NVIDIA 表示,它們開箱即用即可提供高達 2 倍的效能提升,但並未透露該資料背後的基準、工作負載或服務配置。此次發表會也同時公佈了一系列關於韓國的公告,涵蓋代理安全、主權基礎設施和新創企業投資等領域。

NVIDIA渲染圖展示了一排排深色伺服器機架,其中一顆晶片發出綠色的光芒,前景是韓國的輪廓和國旗,以此說明NVIDIA Dynamo針對韓國開放模式的配方。

四款韓國公開賽車型的動力配方

Dynamo 是 NVIDIA 的開源分散式推理服務框架,適用於資料中心規模的多節點部署。當一個模型跨越多個 GPU 時,它負責處理請求路由和 GPU 之間的通訊。每個模型都包含一個配置包,其中包含特定模型的服務配置,因此團隊無需從頭開始調優即可部署到生產環境中。

NVIDIA 表示,這四項技術方案旨在加快韓國開放模式投入生產,並將其應用於政府「全民人工智慧」計畫資助的服務中。根據該計劃,NVIDIA 將與三個選定的聯盟和四個韓國基礎模型建立機構合作,優化和擴展 Dynamo 上的推理能力。

代理安全

現代汽車集團正在探索使用 NVIDIA NemoClaw 藍圖和NVIDIA OpenShell執行時間環境來建立企業級 AI 代理程式。 OpenShell 是 NVIDIA 開放代理程式安全平台的一部分,它提供沙盒執行環境,並對敏感資料、企業工具存取和自主代理行為進行基於策略的控制。

NVIDIA OpenShell 參考架構圖形,包含三個深色面板:帶有策略、鎖定和監控圖示的 BlueField DPU 晶片,帶有吞吐量、效率和安全圖示的 Vera Rubin NVL72 運算托盤,以及具有吞吐量、效率和安全圖示的 Vera CPU 晶片。

韓國人工智慧安全公司AIM Intelligence正在將其Starfort代理控制平台與OpenShell集成,將OpenShell的運行時存取控制與Starfort的惡意指令和資料外洩偵測功能結合。 AIM Intelligence正在考慮在公共能源領域進行初步的概念驗證,未來可能會將其部署到企業、工業和機器人領域。

LG AI Research 開放了其基於 NVIDIA Nemotron 資料集(包括包含 7 萬個完全合成的韓國人格的 Nemotron-Personas-Korea 資料集)開發的 K-EXAONE-2.5 模型的 API 存取權。 NVIDIA 的公告中使用了兩個 LG 模型的版本號:API 公告中使用的是 K-EXAONE-2.5,而 Dynamo 配方則針對 K-EXAONE 2.0。

主權人工智慧基礎設施和新創企業

英偉達 (NVIDIA) 與韓國科學技術資訊通訊部 (MSICT) 正在拓展雙方的合作,從人工智慧半導體和資料中心基礎設施領域延伸至人才、新創公司、模型、代理和安全領域。該協議為韓國的 NPU 和 XPU 公司提供了探索 NVLink Fusion 生態系統的途徑,首個具體成果是Rebellions R200 與 SK Telecom 的合作計劃,該計劃採用英偉達 GPU 進行預填充,Rebellions NPU 進行解碼,目標是在 2028 年實現。此次合作還涵蓋英偉達的培訓和認證課程、黑客馬拉松以及旨在提高 GPU 利用率的技術研討會。

在新創公司方面,英偉達宣布投資Point2,並計畫投資Motif Technologies、RLWRLD和Upstage,其中兩家是Dynamo配方模型建構器四家公司之一。韓國科學技術資訊通信部副部長柳濟明在MSIT-英偉達人工智慧新創企業合作論壇上會見了20多家韓國新創公司。此外,英偉達的Inception計劃在韓國擁有超過1,000名成員。

NVIDIA Dynamo

參與 StorageReview

電子報| YouTube | PodcastiTunes / Spotify | Instagram | Twitter | TikTok | RSS訂閱

哈羅德弗里茨

自 IBM 創建 Selectric 以來,我一直在科技行業工作。 不過,我的背景是寫作。 因此,我決定退出售前業務,回歸本源,從事一些寫作工作,但仍從事技術工作。