隨著各行各業不斷採用人工智慧並將其整合到運算基礎設施中，資源日益緊張，能源效率的維持也變得越來越困難。整體而言，加速運算及其底層技術能夠提供足夠的效率來開發下一代創新技術，其中NVIDIA GPU、NVIDIA AI以及新一代處理器（例如第四代英特爾® 至強® 可擴展處理器平台）正引領著這項變革。
隨著第四代英特爾® 至強® 可擴充處理器的發布，NVIDIA 及其合作夥伴開啟了新一代節能型 AI 加速運算系統的新篇章。這些系統與NVIDIA H100 Tensor Core GPU結合使用時，效能、規模和能源效率均遠超過前代產品。
新系統提高了企業 AI 的性能和效率
由 NVIDIA 和英特爾提供支持的新系統將使企業運行工作負載的效率比僅使用 CPU 的數據中心服務器高 25 倍。 提供這種每瓦性能相當於使用更少的功率，這意味著數據中心需要更多功率來加速現代工作負載。
新一代 NVIDIA 加速服務器加快了訓練和推理速度，將能源效率提高了 3.5 倍，這轉化為實際節省，將 AI 數據中心的 TCO 降低了 3 倍。
第 4 代英特爾至強 CPU 支持 PCIe Gen 5
新的第 4 代英特爾至強 CPU 支持 PCIe Gen 5，使從 CPU 到 NVIDIA GPU 和網絡的數據傳輸速率提高了一倍。 增加的 PCIe 通道在每台服務器內提供更高密度的 GPU 和高速網絡。
更快的內存帶寬提高了 AI 等數據密集型工作負載的性能，而每個連接高達 400 Gbps (Gbps) 的網絡速度支持服務器和存儲之間更快的數據傳輸。
NVIDIA 合作夥伴提供的 NVIDIA DGX H100 系統和伺服器，配備 H100 PCIe GPU，並捆綁了NVIDIA AI Enterprise 的許可證。 NVIDIA AI Enterprise是一套端對端、安全性、雲端原生的 AI 開發和部署軟體，為高效能的企業 AI 提供完整的平台。
由 NVIDIA Base Command 提供支持的 NVIDIA DGX H100 系統
NVIDIA DGX H100 系統提供了一個由NVIDIA Base Command作業系統驅動的最佳化平台，專為加速資料中心而設計。每個系統配備八個 NVIDIA H100 GPU、十個NVIDIA ConnectX-7網路轉接器和雙路第四代英特爾® 至強® 可擴充處理器，可提供建置大型生成式 AI 機型、大型語言機型、推薦系統等所需的效能。
結合 NVIDIA 網絡，該架構有望大規模增強高效計算，為 AI 訓練和 HPC 工作負載提供比上一代高 9 倍的性能，比未加速的 X20 雙路服務器高 40 到 86 倍。 有了這樣的性能，過去需要 40 天訓練的語言模型可以在不到兩天的時間內完成。
NVIDIA DGX H100 系統是NVIDIA DGX SuperPOD的建置模組，可提供高達 1 exaflop 的 AI 效能，從而顯著提高大規模企業 AI 部署的效率。
NVIDIA 合作夥伴提升數據中心效率
對於 AI 數據中心工作負載，NVIDIA H100 GPU 使企業能夠更高效地構建和部署應用程序。
NVIDIA 合作夥伴，包括華碩、Atos、思科、戴爾科技、富士通、技嘉、惠普企業、聯想、QCT 和 Supermicro，預計將很快開始提供新的 H100 GPU 和第 4 代英特爾至強可擴展 CPU 服務器產品組合。
使用 NVIDIA ConnectX-7 網絡和英特爾第 4 代至強可擴展處理器連接服務器將提高效率並減少基礎設施和功耗。 NVIDIA ConnectX-7 適配器支持 PCIe Gen 5 和 400 Gbps 的以太網或 InfiniBand 連接速度，使服務器和存儲之間的網絡吞吐量翻倍。
這些適配器支持高級網絡、存儲和安全卸載。 ConnectX-7 減少了所需的電纜和交換機端口數量，將大型 GPU 加速 HPC 和 AI 集群聯網所需的電力節省了 17% 或更多，並有助於提高這些新服務器的能效。
NVIDIA AI 企業軟件提供全棧 AI 解決方案
這些下一代系統針對 NVIDIA AI Enterprise Suite 進行了優化。 NVIDIA AI Enterprise 在 NVIDIA H100 上運行，可加速數據科學管道。 它簡化了預測性 AI 模型的開發和部署，以自動化基本流程並從數據中獲得快速洞察。
憑藉廣泛的全堆棧軟件庫，包括參考應用程序的 AI 工作流、框架、預訓練模型和基礎設施優化，該軟件為擴大企業 AI 的成功奠定了理想的基礎。
Amazon