存儲評論網

播客第144期:一台戴爾PowerEdge R7725xd伺服器,吞吐量高達300 GB/s

企業  ◇  伺服器

在聖路易斯舉行的 SC25 大會上,布萊恩與他的老朋友、PEAK:AIO 的創始人兼代理首席技術官馬克·克拉津斯基 (Mark Klarzynski) 敘舊。如果您一直在關注 StorageReview,那麼您可能對我們關於 PEAK:AIO 的報導有所了解,從常規新聞報道到… 醫療人工智能動物保育.

正如馬克解釋的那樣,他「一生都從事倉儲工作,而且認識布萊恩已經很久很久了」。這一點從他們之間坦誠輕鬆的關於硬體和軟體及其發展演變的對話中可見一斑。

在這期非常短的播客中,Brian 和 Mark 討論了軟體開發、戴爾的 PowerEdge 伺服器以及 GPU 伺服器。 Mark 對…感到興奮。 硬體設計的進步,尤其是戴爾的 PowerEdge R7725xd, 搭載AMD EPYC處理器。

這個短播客內容豐富,值得一口氣聽完。不過,如果您沒有20分鐘的空閒時間,我們已將其分成若干個五分鐘的小節,方便您隨時跳著聽。

0:00 – 5:00

  • PEAK:AIO 軟體可釋放戴爾 7725XD 的極致效能。
  • 現代硬體(CPU、NVMe、網路)終於夠好,軟體可以「讓路」了。
  • PEAK:AIO 拋棄了數十年來的傳統儲存功能,使其更接近裸機。
  • 令他們驚訝的是:戴爾電腦的表現遠超預期;他們認為測試結果有誤。
  • 哲學:創造事物 簡單穩定 這不僅僅是提高它們的速度那麼簡單。

5:00 – 10:00

  • PEAK:AIO 選擇保持獨立,而不是成為知名廠商產品線中的功能。
  • 他們直接與研究團隊(例如腦癌模型)合作,這比僅僅加快資料庫速度更有意義。
  • 早期重點:將以前需要 4-10 個儲存節點才能實現的功能壓縮成 一台功能強大的伺服器.
  • 傳統的平行檔案系統是為 10GbE + HDD 設計的;現在需要 NVMe 和龐大的 PCIe 頻寬。
  • 他們正利用洛斯阿拉莫斯來建造一個 開放、現代的極速快感 布料-無專有鎖定技術。

10:00 – 15:00

  • 硬體「願望清單」:更多的 PCIe 通道和 PCIe Gen 6,以釋放更大的頻寬。
  • 願景:GPU 伺服器 模型盒、推理盒和儲存節點 集所有功能於一體,但又是更大命名空間的一部分。
  • 先從小規模的 GPU 伺服器開始;當儲存空間不足時,增加 7725XD,讓 PEAK:AIO 自動擴充和重新平衡。
  • 客戶希望僅在 AI 專案證明其價值時才擴展存儲,而不是預先購買大型陣列。
  • 經濟因素很重要:對於醫院和類似預算來說,你不能為一台價值 1 萬美元的 GPU 伺服器配備價值 300 萬美元的儲存陣列。

15:00 – 20:00

  • 策略:使用 商品伺服器 此外,PEAK:AIO 軟體可取代昂貴的專用儲存陣列。
  • 戴爾等 OEM 廠商負責解決基本的硬體問題;PEAK:AIO 則專注於軟體、穩定性和效能。
  • 內建監控和預測智慧;多年來,其平台從未出現停機情況。
  • 聯合專案成果:單節點 IOPS 約 70 萬,吞吐量達數百 GB/s—創下紀錄。
  • 下一步:放置模型 儲存節點(具有空閒的 CPU/GPU 容量),因此推理在本地進行,而不是透過網路進行。

參與 StorageReview

電子報 | YouTube | 播客 iTunes/Spotify | Instagram | Twitter | TikTok | RSS訂閱

哈羅德弗里茨

自 IBM 創建 Selectric 以來,我一直在科技行業工作。 不過,我的背景是寫作。 因此,我決定退出售前業務,回歸本源,從事一些寫作工作,但仍從事技術工作。