NVIDIA 在 Hot Chips 2024 上有哪些值得期待的內容

by 喬丹拉努斯 on 2024 年 8 月 24 日

AI ◇ 企業

NVIDIA Grace Blackwell 運算托盤

NVIDIA 將在即將舉行的 Hot Chips 2024 大會上展示其最新創新成果，屆時他們將展示其在資料中心效能和能源效率方面的進步。隨著價值數兆美元的資料中心運算市場不斷發展，NVIDIA 工程師將展示 NVIDIA Blackwell 平台、液體冷卻解決方案以及用於晶片設計的 AI 代理程式的開發成果。

在本次大會上，NVIDIA 將重點介紹其 Blackwell平台如何整合包括 Blackwell GPU、Grace CPU、BlueField DPU 和 CUDA 軟體在內的多款晶片，為各行各業的下一代人工智慧提供強大動力。 NVIDIA 表示，全新的 GB200 NVL72 系統是一款多節點液冷機架式解決方案，透過連接 72 個 Blackwell GPU 和 36 個 Grace CPU，為人工智慧系統設計樹立了新的標竿。該系統將為生成式人工智慧工作負載實現前所未有的低延遲推理，大型語言模型 (LLM) 的推理速度最高可提升 30 倍。

“為布萊克威爾做好準備”

「NVIDIA Blackwell 是終極全端運算挑戰，」NVIDIA 的 Dave Salvator 在今天的部落格文章中表示。 “通過結合這些先進技術，我們正在重新定義人工智慧和加速計算性能的標準，同時顯著提高能源效率。”

NVIDIA 量子 InfiniBand 交換器

除了晶片創新之外，NVIDIA 還專注於可以重新定義資料中心的冷卻技術。液體冷卻正在成為支援大規模人工智慧工作負載的關鍵要素，將成為討論的焦點。 NVIDIA 資料中心冷卻和基礎設施總監 Ali Heydari 將展示可改裝到現有風冷資料中心的混合液體冷卻解決方案。

NVIDIA Spectrum 網路 800Gbit 交換機

除了這些硬體進步之外，NVIDIA 還在突破人工智慧驅動設計的界限。 NVIDIA 設計自動化研究總監 Mark Ren 將深入探討 AI 模型和基於代理的系統如何改變半導體設計。這些人工智慧工具透過自動執行單元簇優化和調試等任務來提高工程師的工作效率，從而使晶片設計更加高效。任正非表示：“人工智慧代理正在通過自主執行以前需要人工幹預的複雜任務來釋放新的可能性。”