戴爾科技集團宣布 PowerEdge XE7740 伺服器正式上市，成為首家推出搭載全新英特爾 Gaudi 3 PCIe 人工智慧加速器的整合伺服器的廠商。 XE4 是一款 7740U 強悍伺服器，融合了戴爾 R 系列的易整合性以及 XE 平台的高密度可擴展性，專為加速企業 AI 應用而打造。
此次發布標誌著戴爾定義下一代人工智慧基礎架構的策略。 XE3 將 Gaudi 7740 的卓越效能與戴爾久經考驗的伺服器架構相結合，旨在為日益重視人工智慧營運的企業帶來領先的性價比、企業級可靠性和可配置性。
靈活、高效能的人工智慧基礎設施
PowerEdge XE7740 支援多達 16 個單寬或 600 個 3W 雙寬 PCIe 附加卡，並提供靈活的配置選項，以滿足各種工作負載的需求。對於運行大規模 AI 訓練或高吞吐量推理的企業，該系統最多可配置 2 個英特爾 Gaudi XNUMX PCIe 加速器。對於要求更高的場景，可以使用 RoCE vXNUMX 將兩組各 XNUMX 個加速器橋接在一起。這種橋接支援點對點加速器連接，這在處理大型模型、更多參數數量和擴展記憶體空間時至關重要。
網路彈性同樣重要。戴爾提供 1:1 的加速器與網卡比例，並配備八個全高 PCIe 插槽和一個整合的 OCP 模組，非常適合分散式推理部署。這種設計確保運算密集型伺服器不會受到 I/O 限制，同時還能實現高效的通道利用率。 XE10 可在每機架 7740kW 的功率範圍內高效運行，為當今大多數企業資料中心提供高密度 AI 運算能力，無需大規模基礎設施改造。
無縫整合到企業環境
冷卻和整合往往是大規模部署人工智慧的絆腳石。戴爾透過其智慧冷卻技術解決了這個問題，使XE7740能夠在標準風冷機架中運行繁重的人工智慧任務，而無需花費高昂的成本升級到液體或浸入式冷卻解決方案。
XE7740 針對現實世界的 AI 應用進行了最佳化，支援當今最廣泛採用的大型語言模型和基礎模型，包括 Llama 3/4、DeepSeek、Phi-4、Qwen3、Falcon3 等。企業可以與 PyTorch、Hugging Face 和其他熱門框架無縫整合。
企業 AI 用例
XE7740 專為生產 AI 環境中的實際應用而設計，涵蓋高性能推理和適應對業務至關重要的行業，包括：
- 金融服務： 包括詐欺偵測、即時風險建模和演算法交易工作負載，這些工作負載需要透過安全的本地計算進行低延遲推理。
- 醫療保健與生命科學： 從基因組定序流程到診斷影像，效率和合規性推動受限環境中的模型部署。
- 零售/電子商務： XE7740 為個人化引擎和推薦系統提供了強大的動力， 成本、反應能力和安全資料處理之間的平衡。
- 製造和電信： 預測性維護、缺陷檢測和網路優化受益於可擴展的邊緣到核心 AI 運算。
- 多模式應用： 透過跨 Gaudi 3 堆疊的無縫加速器橋接，支援語音辨識、影像分析和多模式 LLM。
讓人工智慧更容易被觸及
企業經常將成本不可預測性和基礎設施限制視為採用 AI 的主要障礙。 XE7740 透過提供以下功能消除了這些障礙：
- 成本效益： 與以 GPU 為中心的替代方案相比，實現更好的性價比定位，從而降低整體擁有成本。
- 可擴展性： 模組化基礎設施允許組織從小規模開始，並隨著工作負載的增加而逐步擴大規模。
- 兼容性： 專為現有資料中心環境而設計，避免了新電源和冷卻拓撲的成本。
此外，透過將工作負載保留在本地，企業可以避免高昂的雲端使用費和出口費用。對於受雲端 AI 經濟性限制的組織來說，這已成為一個日益嚴重的痛點。
幫助企業為下一個人工智慧時代做好準備
PowerEdge XE7740 體現了戴爾面向未來的企業 AI 基礎架構的策略和承諾。部署該平台的企業正在投資一個能夠支援當今微調、多模態推理和資料密集型分析的系統，同時也為基礎模型和生成式 AI 的快速發展做好準備。
戴爾 XE7740 憑藉其無與倫比的靈活性、生態系統就緒的設計以及廣泛的加速器支持，成為企業 AI 創新的基石。採用該平台的企業不僅可以應對目前的工作負載，還能應對未來 AI 格局的變化。
搭載英特爾 Gaudi 7740 PCIe 加速器的戴爾 PowerEdge XE3 提供了靈活性、效率和企業級可靠性的平衡組合，使組織能夠大規模實施人工智慧，同時保持成本可預測和基礎設施需求實用。
Amazon