IBM 在光學技術領域取得突破

IBM 宣布了光學技術的突破性研究，有望徹底改變資料中心訓練和運行生成式 AI 模型的方式。該公司開創了一種新穎的共封裝光學 (CPO) 方法，這是一種利用資料中心內基於光的連接的下一代技術。透過設計和組裝第一個公開發布的聚合物光波導 (PWG) 來推動這項創新，IBM 研究人員的目標是重新定義高頻寬資料在晶片、電路板和伺服器之間的傳輸方式。

圖片由 Ranovus 提供

光纖技術長距離傳輸大量數據，管理全球商業和通訊。然而，在資料中心內，機架依賴銅基 DAC 網路佈線進行連接。 IBM 認為這種設定可能會限制速度和容量，進而造成瓶頸，導致 GPU 加速器在分散式 AI 訓練過程中長時間閒置。 IBM 的突破旨在將光學的速度和效率帶入這些內部連接，從而顯著提高效能和能源效率。

IBM 展示了一種新的 CPO 原型模組，可在資料中心內引入高速光纖連接。該研究發表在 arXiv 上的一篇論文中，重點介紹了該技術如何大幅增加頻寬、減少 GPU 停機時間並加速 AI 模型訓練，同時解決資料中心不斷上升的能源需求。

共封裝光學元件 (CPO) 的主要優勢

提高能源效率並降低成本
與中階電氣互連相比，CPO 技術可將能耗降低 5 倍以上。這項進步也允許資料中心互連電纜從幾公尺延伸到數百米，從而顯著降低營運成本。

• 加速人工智慧訓練： 透過以光纖連接取代傳統的電氣佈線，CPO 可以將大型語言模型 (LLM) 的訓練速度提高多達五倍。例如，它可以將法學碩士的培訓時間從三個月縮短到三週，隨著模型和 GPU 資源的擴展，效能提升甚至更大。
• 無與倫比的節能效果： IBM 估計，使用 CPO 訓練的每個 AI 模型可以節省相當於 5,000 個美國家庭每年的用電量，強調對能源效率的變革性影響。
• 無與倫比的頻寬密度： CPO 模組提供 頻寬增加高達 80 倍 晶片之間與電氣連接相比。 IBM 的創新使晶片製造商能夠在矽光子晶片邊緣添加六倍多的光纖（稱為「海濱密度」），從而增強資料中心的整體容量。

開創性的聚合物光波導 (PWG) 技術

IBM 的研究團隊設計了一種高密度 PWG，其間距為 50 微米的光通道與矽光子波導絕熱耦合。該組件採用標準封裝工藝進行，首次通過了嚴格的製造壓力測試，包括高濕度、-40°C 至 125°C 的極端溫度以及機械耐久性。堆疊 PWG 可支援多達 128 個連接通道，提供前所未有的可擴充性。

這項創新與 IBM 在半導體技術領域的領先地位一致，建立在首款 2 nm 節點晶片、奈米片電晶體和垂直電晶體 (VTFET) 等進步的基礎上。 CPO 技術引入了一種新方法來滿足人工智慧日益增長的需求，將模組外通訊從電氣轉換為光學，並實現可持續和可擴展的資料中心運作。

支援生成式人工智慧的發展

IBM 資深副總裁兼研究總監 Dario Gil 強調了 CPO 的變革潛力：
「由於生成式人工智慧需要更多的能源和處理能力，資料中心必須不斷發展，而共同封裝的光學元件可以使這些資料中心面向未來。憑藉這一突破，未來晶片的通訊方式將類似於光纖電纜將資料傳入和傳出資料中心的方式，從而開創一個更快、更永續的通訊新時代，可以處理未來的人工智慧工作負載。 」

IBM 在 CPO 方面的工作是在紐約州奧爾巴尼進行的，這是最近宣布成立的國家半導體技術中心 (NSTC) 的所在地。原型組裝和模組測試在 IBM 位於魁北克省布羅蒙的工廠進行，該工廠是晶片封裝領域的領導者。此次合作是東北半導體走廊計畫的一部分，該計畫旨在加強美國和加拿大的半導體創新。

IBM 的聯合封裝光學創新代表著在推進資料中心通訊方面向前邁出的重要一步。透過在機架內整合光速連接，CPO 技術可望提供無與倫比的效率、頻寬和節能，重新定義資料中心的功能，並為滿足生成式人工智慧及其他領域不斷增長的需求做好準備。