IBM 在紐約約克城宣佈了一項重大的光學技術突破，該技術將顯著數據中心在訓練和運行生成式人工（AI）模型時的效率。

IBM 的研究人員開發了一種新型的共封裝光學技術（CPO），這項技術能夠利用光速實現數據中心內部的連接，從而替代目前使用的銅電纜。

IBM

儘管光纖技術已在全球商業和通信中廣泛應用，但大多數數據中心內部仍依賴於銅電纜進行短距離通訊。這導致 GPU 加速器在訓練過程中常常處於閒置狀態，浪費大量的時間和能源 IBM 的研究團隊展示瞭如何將光的速度和容量引入數據中心，顯著提高數據中心的通信帶寬，減少 GPU 的閒置時間，從而加速 AI 模型的處理速度。

根據 IBM 發佈的技術論文，該團隊開發的 CPO 原型模塊能夠實現高速光學連接，帶來五倍的電力節省，能夠將數據中心內部連接電纜的長度從一米擴展到數百米。

此外，使用這種新技術，者訓練大型語言模型（LLM）的速度可以比傳統電纜快五倍，這意味着將一個標準 LLM 的訓練時間從三個月縮短到三週。這項創新不僅能顯著降低生成式 AI 的規模成本，還能提高數據中心的能源效率，節省相當於5000個美國家庭年用電量的能量。

IBM 的研究表明，CPO 技術可以將芯片間的帶寬提高至氣連接的80倍，充分利用了現代芯片技術的進步。IBM 的2納米節點芯片技術可以容納超過500億個晶體管，CPO 技術的引入將進一步提高計算密度和效率。這項的成功原型在製造過程中經過了高溼度和極端溫度的測試，確保了光學互連的可靠性和耐用性。

此次研究爲數據中心的未來發展鋪平了道路，IBM 將繼續在半體研發方面保持領先地位，推動更高效的光學通信技術的發展，以滿足日益增長的 AI 性能需求。

劃重點:  

🌟 IBM 推出新型共封裝光學技術，替代傳統銅電纜，提升數據中心效率。  

⚡ CPO 技術能將大型語言模型訓練時間從三個月縮短至三週，實現五倍的速度提升。  

🔋 該技術可節省數據中心大量能源，相當於5000個家庭的年用電量。