近日，埃隆・馬斯克的 xAI 公司完成了一項震撼業界的技術突破，推出了名爲 “Colossus” 的人工智能訓練系統。

這個系統的核心是整整100，000塊 Nvidia 的 H100GPU，標誌着 xAI 在 AI 領域的又一重要進展。

馬斯克在週一的社交平臺 X 上分享了這一消息，聲稱 Colossus 是 “世界上最強大的 AI 訓練系統”。這意味着，Colossus 的性能甚至有可能超過美國能源部的 Aurora 超級計算機，後者在一次基準測試中達到了10.6exaflops 的驚人速度。

image.png

Colossus 的強大主要歸功於它的GPU，Nvidia 的 H100GPU自2022年發佈以來，一直被視爲最先進的 AI 處理器。

這款GPU在運行語言模型時，速度比之前的 GPU 快了30倍，尤其是在處理基於 Transformer 神經網絡架構的任務時表現尤爲突出。

爲了進一步增強 Colossus 的性能，馬斯克計劃在接下來的幾個月內將顯卡的數量增加到200，000塊，其中將包括50，000塊新一代的 H200GPU。

H200GPU在數據傳輸速度方面相比 H100有着顯著的提升，這將極大地提高 AI 模型的運行效率。對於 xAI 來說，這樣的技術升級意味着他們可以開發出更強大的語言模型。

實際上，xAI 的旗艦產品 Grok-2曾在15，000塊GPU上訓練，而現在 Colossus 的強大計算能力，意味着其後續版本的開發將會更加順利。xAI 計劃在年底之前推出 Grok-2的繼任者。

值得一提的是，Colossus 的一些服務器GPU本來是爲特斯拉公司預留的。根據之前的報道，馬斯克曾向 Nvidia 要求將價值超過5億美元的12，000塊 H100GPU轉給 xAI。

預計到年底，特斯拉在 Nvidia 硬件上的支出將達到30億到40億美元，這顯示出馬斯克在 AI 和電動車領域的雄心壯志。

劃重點:

🌟 xAI 推出的 “Colossus” 系統配備100，000塊 Nvidia H100GPU，號稱全球最強 AI 訓練系統。  

🚀 馬斯克計劃在幾個月內將 Colossus 的GPU數量翻倍至200，000塊，其中包括50，000塊新版本的 H200GPU。  

💡 Colossus 將爲 xAI 的旗艦大型語言模型 Grok-2的繼任者提供強大的計算支持，預計將在年底前發佈。