微軟在本週的 Microsoft Ignite 活動中展示了客製化晶片設計和人工智慧基礎設施的幾項新進展,包括擴大其晶片產品組合。
微軟在Ignite 2024 大會上宣布了客製化晶片設計和AI 基礎設施的多項關鍵進展。 。這些更新旨在提高 Microsoft 雲端服務的效率、安全性和效能。
微軟的客製化晶片革命
Microsoft 正在大幅擴展其客製化晶片產品組合,超越 Azure Maia AI 加速器和 Azure Cobalt CPU。他們推出了 Azure Integrated HSM,這是一種內部安全晶片,旨在增強金鑰管理而不影響效能。到 2025 年,微軟將在所有新的資料中心伺服器中新增 HSM 安全模組,以保護機密和通用工作負載。
微軟也推出了第一個資料處理單元Azure Boost DPU。這款專用晶片能夠以卓越的效率處理以資料為中心的工作負載。配備此 DPU 的新伺服器可將功耗減少三分之二,效能比目前伺服器好四倍。
冷卻和電力基礎設施
微軟展示了其下一代液體冷卻「夥伴」機架。此熱交換器單元可改裝成Azure資料中心,以支援大規模AI系統,包括NVIDIA的GB200基礎設施。他們還與 Meta 合作開發了採用 400 伏特直流電源的分類電源架設計,使每個伺服器機架中的 AI 加速器數量增加了 35%。
為了實現全行業的進步,微軟正在透過開放運算專案開源這些冷卻和電源機架規範,使整個產業能夠從這些創新中受益。
下一代人工智慧和運算基礎設施
隨著採用 NVIDIA H200 GPU 的 ND H5 V200 虛擬機器系列的推出,Azure 的 AI 基礎架構不斷發展。該平台顯示出顯著的效能增強,比 NVIDIA H100 和 H200 GPU 的行業基準標準高出兩倍。
微軟也發布了 Azure ND GB200 v6,這是一個新的 AI 優化 VM 系列,融合了 NVIDIA GB200 NVL 72 機架規模設計和 Quantum InfiniBand 網路。這項進步可實現大規模 AI 超級運算效能,連接數萬個 Blackwell GPU。
對於基於 CPU 的超級計算,新的 Azure HBv5 虛擬機由定制 AMD EPYC™ 9V64H 處理器提供支持,性能比當前替代品快八倍,並將於 2025 年提供預覽版。
Azure 容器應用程式和 NVIDIA 集成
Azure 容器應用程式現在支援 NVIDIA GPU,從而實現簡化且可擴展的 AI 部署。這種無伺服器容器平台透過抽象化底層基礎設施來簡化基於微服務的應用程式的部署和管理。憑藉按秒計費和擴展到零的功能,客戶只需為他們使用的計算付費,從而確保經濟高效的資源利用。
Azure 上的 NVIDIA AI 平台包括用於工業 AI 的新參考工作流程和 NVIDIA Omniverse 藍圖,用於建立由 AI 驅動的沉浸式視覺效果。用於工業營運 3D 遠端監控的參考工作流程即將推出,使開發人員能夠將工業系統的實體精確 3D 模型連接到來自 Azure IoT Operations 和 Power BI 的即時資料。
RTX AI PC 和進階運算
NVIDIA 宣布推出全新多模態 SLM NVIDIA Nemovision-4B Instruct,用於理解真實世界和螢幕上的視覺影像。這項技術很快就會被引入 RTX AI PC 和工作站,以更真實的方式增強數位人類互動。
NVIDIA TensorRT 模型最佳化器 (ModelOpt) 的更新現在為 Windows 開發人員提供了一個改進的途徑來最佳化 ONNX 執行時間部署的模型。這使得開發人員能夠為 PC 創建 AI 模型,這些模型在透過 RTX GPU 加速時速度更快、更準確,同時可以使用 ONNX 運行時輕鬆在 PC 生態系統中部署。
超過 600 個 Windows 應用程式和遊戲在全球超過 100 億台 GeForce RTX AI PC 上本地運行 AI,提供快速、可靠且低延遲的效能。 NVIDIA 和 Microsoft 之間的合作不斷推動個人運算設備的創新,為日常用戶帶來複雜的 AI 功能。
微軟雲端和混合基礎設施
Azure Arc 體現了微軟對多雲和混合解決方案的承諾,目前為全球超過 39,000 家客戶提供服務。新的 Azure Local 提供安全的雲端連線混合基礎架構和靈活的選項,包括用於 AI 推理的 GPU 伺服器。
微軟也發表了 Windows Server 2025 和 SQL Server 2025,利用 Azure Arc 跨本機和雲端環境提供雲端功能。 SQL Server 2025 以其新的內建 AI 功能脫穎而出,透過向量支援簡化了 AI 應用程式開發和 RAG 模式。
結論
微軟最近的創新凸顯了其致力於推進客製化晶片、人工智慧基礎設施和混合雲解決方案。憑藉著 Azure Integrated HSM 和 Azure Boost DPU 等突破性的發展,微軟正在為安全、高效、高效能的資料中心營運制定新的範本。下一代冷卻和電源技術以及開源創新的推出凸顯了微軟對促進產業協作和永續發展的承諾。
Azure 的 AI 和運算基礎架構(包括 ND H200 V5 和 ND GB200 v6 虛擬機器)的發展證明了 Microsoft 大規模提供 AI 效能的能力。同時,新的 HBv5 虛擬機器承諾為基於 CPU 的超級運算提供效能,確保 Azure 繼續保持高效能運算領域的領先地位。
最後,透過 Azure Arc 強大的混合功能以及 SQL Server 2025 等人工智慧增強工具的推出,微軟正在為企業提供靈活、可擴展的解決方案,以應對現代工作負載的複雜性。這些進步共同鞏固了 Microsoft 作為推動人工智慧、雲端和混合基礎設施未來的領導者的地位。
參與 StorageReview
電子報 | YouTube | 播客 iTunes/Spotify | Instagram | Twitter | 的TikTok | RSS訂閱