OpenAI和DeepMind在Scaling Laws研究中有不同觀點和方法。Scaling Laws能預測大模型在參數量、數據量和計算量變動時的損失變化。他們的競爭將推動人工智能的發展,影響人機共存的未來。在大語言模型的預訓練過程中,涉及模型大小、數據量、訓練成本的權衡博弈。Scaling Laws可以幫助優化設計決策。DeepMind提出模型大小和數據量應按相等比例擴展,而OpenAI傾向於選擇更大的模型。DeepMind開發了AlphaGo和AlphaFold,展示了深度強化學習和神經網絡的潛力,而OpenAI則開發了GPT系列模型,在生成式模型上展示了非凡能力。研究結論表明影響模型性能的三個要素相互影響,DeepMind的Chinchilla模型表現優異。國內的百川智能和明德大模型也在Scaling Laws研究中有所貢獻。DeepMind提出了Levels of AGI分類方法,揭示了人工智能不同發展階段。
相關推薦
OpenAI 聯合英偉達等巨頭髮布 MRC 協議,重塑大規模 AI 訓練網絡架構
OpenAI聯合AMD、博通、英特爾、微軟及英偉達等五大巨頭,發佈多路徑可靠連接(MRC)協議,旨在解決大規模AI訓練中的網絡延遲與故障問題。該協議已通過開放計算項目(OCP)開源,並推動從三層架構向兩層設計的轉變,以擊碎“單點故障”,提升訓練穩定性與效率。
May 7, 2026
158.3k
OpenAI 巨資佈局 AI 算力 500 億美元投入引發行業軍備競賽
OpenAI總裁Greg Brockman披露,公司計劃在2026年前投入高達500億美元提升計算資源,以應對AI大模型訓練和推理對算力的激增需求。這一投資較2017年的約3000萬美元增長了數千倍,標誌着生成式AI從實驗階段邁向大規模商業化。
May 7, 2026
148.0k
昔日夥伴對簿公堂:OpenAI 總裁日記成庭審關鍵,揭祕與馬斯克的分裂始末
OpenAI與馬斯克的法律糾紛中,總裁布羅克曼的私密日記被法庭公開,他被迫宣讀摘要。馬斯克方以此證明OpenAI背離非營利使命、追求個人財富。布羅克曼痛苦強調日記的隱私性,事件凸顯法律戰對個人隱私的衝擊。
May 7, 2026
156.3k
OpenAI攜手硬件巨頭髮布MRC協議,欲終結GPU閒置浪費
5月6日,OpenAI聯合AMD、博通、英特爾、微軟及英偉達等巨頭髮布“多路徑可靠連接”(MRC)開放網絡協議,旨在解決超大規模AI集羣效率瓶頸。該協議通過技術優化大型AI訓練集羣運行表現,克服以往模型訓練中網絡限制問題,標誌着科技界在提升AI集羣性能上取得關鍵進展。
May 7, 2026
149.9k
OpenAI總裁布羅克曼出庭作證:揭祕2017年馬斯克爭奪公司控制權始末
OpenAI總裁布羅克曼在2026年5月法庭證詞中披露,2017年公司轉型期,馬斯克因要求“絕對控制權”並試圖將OpenAI併入特斯拉AI體系遭拒後,雙方產生戰略分歧,導致後續法律訴訟。
May 7, 2026
121.8k
