馬斯克豪擲40億購入10萬張H100芯片,只爲訓練xAI的Grok3!這位科技界的"鋼鐵俠"不僅在火箭和電動車領域大展拳腳,現在又在AI領域搞了個大新聞。
馬斯克在推特上連回兩條,爲xAI造勢,宣佈8月發佈Grok2,年底將推出在10萬張H100上訓練的Grok3。這可是芯片加持的創新數據訓練,目標直指OpenAI的GPT,打造新一代大語言模型。
自從Grok1.5發佈後,馬斯克就一直在爲xAI這家AI初創公司搖旗吶喊。Grok是馬斯克正式進入生成式AI賽道的AI聊天機器人,來自一個與OpenAI、谷歌、Meta等巨頭同臺競技的初創公司xAI。他們不僅開源,還造超算中心,野心勃勃。
自今年3月以來,xAI陸續推出了Grok1.5大語言模型和首個多模態模型Grok1.5Vision。xAI曾表示,Grok1.5V在多學科推理、文檔理解、科學圖表、表格處理等多領域「都能媲美現有的前沿多模態模型」。
馬斯克在5月表示,xAI是一家新公司,因此Grok仍有大量準備工作要做,才能與谷歌Deepmind和OpenAI相抗衡。但xAI一直在暗暗發力,直指模型性能,期望能給大公司上壓力。
現在,馬斯克宣佈Grok2將在8月推出,這將是數據訓練方面的巨大進步,可能有效解決「人體蜈蚣效應」,即模型會產生相同的輸出結果。這對於使用大語言模型的用戶來說是個好消息。
馬斯克還透露,Grok3將在年底推出,並且在經過10萬個英偉達H100GPU的訓練後,將成爲「特別的東西」。這筆訂單價值30億至40億美元,顯示出馬斯克對AI的重視和投入。
xAI的Grok2和Grok3的用戶使用範圍也備受關注,大家對10萬張H100訓練出來的模型充滿期待。儘管像Meta這樣的其他科技巨頭正在購買更多的GPU,但xAI的這一舉措無疑顯示出其在AI領域的雄心。
此外,馬斯克還親自監工xAI的數據中心,採用液冷技術,以應對AI智算的需求爆發。液冷方案具有冷卻效率高、節能環保、穩定性強的優點,已成爲AI數據中心的首選。