在 CES 2025 上,NVIDIA 推出了 Project DIGITS,這是一款突破性的個人 AI 超級計算機,由全新 NVIDIA GB10 Grace Blackwell 超級晶片。 Project DIGITS 旨在簡化 AI 開發工作流程,以緊湊、桌面友好的外形提供 petaflop 級 AI 系統的效能。這項創新將徹底改變人工智慧研究人員、資料科學家和學生原型設計、微調和部署大型人工智慧模型的方式。
Project DIGITS 基於 NVIDIA 的 Grace Blackwell 架構構建,結合了最新的 GPU 和 CPU 技術進步。該系統可在本地運行200億個參數的模型,使其成為世界上最小的AI超級電腦。對於開發人員來說,這意味著能夠直接在桌面上試驗大規模人工智慧模型,並無縫擴展至雲端或資料中心環境。
GB10 超級晶片的強大功能
DIGITS 專案的核心是 NVIDIA GB10 Superchip,這是一種系統單晶片 (SoC),可在 FP1 精度下提供高達 4 petaflop 的 AI 效能。 GB10 將 NVIDIA Blackwell GPU 與新一代 CUDA® 核心、Tensor 核心以及高效能 NVIDIA Grace CPU 結合,該 CPU 具有 20 個基於 Arm 的節能核心。兩個組件透過NVLink-C2C連接,確保高速通訊和效率。
每個系統都包含 128GB 統一內存和高達 4TB 的 NVMe 存儲,使開發人員能夠處理許多要求苛刻的 AI 工作負載。對於更大的模型,兩個 Project DIGITS 系統可以透過 NVIDIA ConnectX 網路連接,允許使用者運行具有多達 405 億個參數的模型。
無縫人工智慧開發和部署項目
Project DIGITS 不只是硬體解決方案,它也是一個完整的人工智慧開發平台。該系統在基於 Linux 的 NVIDIA DGX 作業系統上運行,可與 NVIDIA 更廣泛的生態系統無縫集成,包括 NVIDIA DGX Cloud™ 和資料中心基礎架構。這使得開發人員能夠在本地建立人工智慧原型,並輕鬆地將他們的工作擴展到企業級環境。
該平台還提供對 NVIDIA 廣泛軟體庫的訪問,包括實驗、原型設計和部署工具。開發人員可以利用 NVIDIA NGC 目錄,其中提供預先訓練的模型、框架和軟體開發套件。完全支援 PyTorch、Python 和 Jupyter Notebook 等流行工具,以及 NVIDIA 的專用框架,例如用於微調大型語言模型的 NeMo™ 和用於資料科學加速的 RAPIDS™。
對於那些建立高級 AI 應用程式的人,NVIDIA 提供 NVIDIA 藍圖和 NIM™ 微服務,支援建立代理 AI 系統。當準備好投入生產時,開發人員可以使用 NVIDIA AI Enterprise 許可證過渡到企業級環境,該許可證提供安全性、支援和定期更新。
賦能下一代人工智慧創新
透過 DIGITS 項目,NVIDIA 讓全球受眾都能使用 AI 超級運算。透過將 Grace Blackwell 平台的強大功能部署到每張辦公桌上,該公司正在幫助開發人員、研究人員和學生突破人工智慧創新的界限。
無論是建立生成人工智慧的下一個突破原型、微調大型語言模型,還是開發代理人工智慧應用程序,DIGITS 專案都提供了塑造人工智慧未來所需的工具和效能。
Project DIGITS 售價 3,000 美元,將於今年 XNUMX 月透過頂級董事會合作夥伴發售,旨在為開發人員工作流程帶來典範轉移。
參與 StorageReview
電子報 | YouTube | 播客 iTunes/Spotify | Instagram | Twitter | 的TikTok | RSS訂閱