存儲評論網

AMD 推出強大的 EPYC CPU、Ryzen AI MAX+ 筆記型電腦處理器和符合太空要求的 Versal AI Edge SoC

AI  ◇  企業

AMD 展示了其 EPYC CPU 與 Nvidia Grace 處理器的競爭基準測試。他們還推出了用於消費性筆記型電腦的 Ryzen AI MAX+ 395 處理器,並推出了符合太空要求的 Versal AI Edge 自適應系統單晶片 (SoC)。

AMD EPYC CPU 在 AI 效能測試中領先 Nvidia Grace

AMD 公佈了基準測試對比結果,證明了其 EPYC 處理器相對於 Nvidia 的 Grace CPU 具有明顯的效能優勢,尤其是在資料中心和 AI 工作負載方面。 EPYC 處理器利用成熟的 x86 架構,與 Nvidia Grace 等基於 Arm 的較新解決方案相比,具有強大的性能、可擴展性和兼容性優勢。

AMD 重點介紹了幾項關鍵基準測試,展示了 EPYC 處理器相對於 Nvidia Grace 的優勢,其中包括:

  • 無與倫比的密度: 與 Grace Superchip 的 33 arm Neoverse 核心相比,EPYC 處理器的密度高 192%,每個插槽有 144 個核心 SKU。
  • 電源效率: 在雙插槽 SPECpower® 測試中,EPYC CPU 的能源效率提高了 2.75 倍,這使得它們在大規模部署中具有更高的能源效率。
  • 資料庫效能: EPYC 處理器在 MySQL TPROC-C 工作負載中展現出兩倍以上的效能。當我們部署需要大量向量資料庫的更多自主 RAG 系統時,這一點變得越來越重要。
  • 視頻編碼: 在使用 FFmpeg VP9 編解碼器編碼視訊時,EPYC 實現了 2.9 倍的吞吐量,從而實現了更快、更有效率的媒體處理。
  • GPU 加速工作負載: EPYC CPU 比其他領先的 x20 解決方案提供高達 86% 的吞吐量,使其對於 GPU 密集型 AI 任務特別有效。
  • 時脈速度: EPYC 處理器的時脈速度高達 5GHz,遠遠超過了 Nvidia Grace 的 3.1GHz 基本頻率,為運算密集型應用程式提供了卓越的原始效能。
  • 資源利用率: AMD 的同步多執行緒 (SMT) 技術進一步提高了資源效率,使 EPYC 處理器能夠同時有效地處理更多任務。

這些基準測試證明了 EPYC 適用於各種企業 AI 應用,包括即時推薦系統、預測性維護以及視覺和語言處理任務。

Ryzen AI MAX+ 395 樹立了新的消費級筆記型電腦 AI 效能標準

AMD 也推出了 Ryzen AI MAX+ 395 處理器(「Strix Halo」),定位為高階輕薄筆記型電腦最強大的 x86 APU。它結合了 16 個 Zen 5 CPU 核心、一個可提供超過 2 TOPS 的 XDNA™ 50 神經處理單元以及帶有 40 個 AMD RDNA™ 3.5 計算單元的整合式顯示卡。

AMD 的基準測試表明,Ryzen AI MAX+ 395 在各種 AI 工作負載方面的表現明顯優於英特爾的 Copilot+ 處理器。在令牌吞吐量測試中,AMD 新處理器的效能比配備英特爾 Arc 2.2V 的筆記型電腦高出 140 倍。延遲的改進尤其令人印象深刻:像 Llama 3.2 這樣擁有 3 億個參數的小型模型的運行速度提高了四倍。具有 7 到 8 億個參數的中型模型的反應時間提高了 9.1 倍。相比之下,與英特爾的 Core Ultra 14V 相比,具有約 12.2 億個參數的較大模型實現了高達 258 倍的延遲減少。

Ryzen AI MAX+ 395 在基於視覺的 AI 任務方面也表現出色,運行 IBM 的 Granite Vision 模型(3.2 億個參數)的速度提高了 4 倍,運行 Google 的 Gemma Vision 模型(4.6 億個參數)的速度提高了 12 倍。甚至更大的視覺模型,例如具有 XNUMX 億個參數的Google Gemma Vision,與英特爾的產品相比,性能提升了六倍。

除了原始性能之外,AMD 的新處理器還支援令人印象深刻的 128GB 統一內存,超過了競爭對手提供的最大 32GB。此外,AMD 的可變圖形記憶體技術允許筆記型電腦動態分配高達 96GB 的記憶體作為 VRAM。這種靈活性意味著使用者可以直接在筆記型電腦上舒適地運行大規模 AI 模型,包括具有高達 27 億個參數的 Google Gemma Vision。 

Ryzen AI MAX+ 平台允許個人直接在筆記型電腦上運行先進的本地語言和視覺模型,從而無需技術專業知識,從而極大地增強了用戶體驗,正如 LM Studio 等應用程式所展示的那樣。

Versal AI Edge XQRVE2303 自適應 SoC 獲得航太認證

在另一項突破性的公告中,AMD 透露其 Versal AI Edge XQRVE2303 自適應系統單晶片 (SoC) 已完成 B 級太空飛行認證,成為 AMD 第二款符合太空任務要求的耐輻射 Versal 裝置。

XQRVE2302 旨在透過其增強型 AMD AI 引擎 (AIE-ML) 將先進的 AI 推理功能帶入太空。與第一代 AI 引擎相比,這些引擎可提供兩倍的 INT8 效能和 16 倍的 BFLOAT16 效能,同時也降低了延遲並提高了記憶體頻寬。其緊湊的 23mm x 23mm 外形尺寸使其成為空間應用的最小自適應 SoC,可在提供高性能的同時降低功耗和電路板空間。

XQRVE72 配備雙核心 Arm® Cortex®-A5 應用處理器、雙核心 Arm Cortex-R2302F 即時處理器、DSP 模組和 FPGA 可程式邏輯,非常適合影像分類、自主導航和感測器資料處理等邊緣處理任務。這些功能支持野火探測、植被監測和地球觀測衛星雲探測等應用。

AMD 與 Alpha Data 合作開發了 XQRVE2302 的耐輻射參考設計。 ADM-VB630 設計平台有助於快速製作原型並經濟高效地開發下一代衛星系統。

Versal XQR 系列專為空間系統中的互補角色而設計。較大的 XQRVC1902 可處理重型訊號處理,而較小的 XQRVE2302 則專注於命令與控制功能、AI 推理和邊緣運算。這兩種設備都支援在開發期間和在太空惡劣輻射環境中部署後進行無限制的重新編程。

結語

AMD 的最新公告強調了其在企業和消費者市場中的強大地位。 EPYC 處理器在關鍵基準測試中(尤其是在資料中心和 AI 工作負載方面)明顯超越 Nvidia 的 Grace CPU,而 Ryzen AI MAX+ 395 為消費筆記型電腦 AI 效能樹立了新標準,AMD 展示了其在不同應用程式中提供強大、高效和高效能運算解決方案的能力。

此外,Versal AI Edge XQRVE2303 自適應 SoC 已獲得太空飛行認證,凸顯了 AMD 致力於進一步突破技術界限的決心。透過為太空任務提供強大、多功能且耐輻射的 AI 處理能力,AMD 正在擴展航空航太領域的可能性,使即使在充滿挑戰的環境中也能實現先進的運算能力。這些創新共同使 AMD 處於人工智慧和高效能運算進步的前沿。

參與 StorageReview

電子報| YouTube | PodcastiTunes / Spotify | Instagram | Twitter | TikTok | RSS訂閱

迪維揚什·賈恩

機器學習工程師,家庭實驗室愛好者和技術發燒友。在 StorageReview,我負責人工智慧和新興工作負載的測試,提供洞察分析和效能分析。