互聯網女皇AI趨勢報告：AI模型訓練成本超高，但推理成本斷崖式下降

根據互聯網女皇發佈的AI趨勢報告的深度分析，人工智能（AI）模型的計算經濟學正經歷着一場關鍵的轉變。報告指出，訓練最強大的大型語言模型(LLM)已成爲人類歷史上最昂貴、資本最密集的投入之一，目前每個模型的訓練成本往往超過1億美元。Anthropic首席執行官Dario Amodei在2024年中指出，目前有模型正在訓練，其成本接近10億美元，並預測到2025年，訓練成本高達100億美元的模型可能會出現。

然而，互聯網女皇AI趨勢報告同時強調，運行模型的推理成本（即模型生成預測、答案或內容）正在迅速下降。報告引用英偉達的數據顯示，其2024年發佈的Blackwell GPU生成每個token所需的能量比2014年的Kepler GPU前身低了105，000倍。斯坦福HAI的數據進一步揭示，在兩年內，AI推理的客戶價格(每百萬token)下降了99.7%。這種成本效益的提高，速度遠超此前的電力和計算機內存等關鍵技術。

這種推理成本的急劇下降和模型可訪問性的提高，使得AI的實驗成本降低，迭代速度加快。互聯網女皇AI趨勢報告認爲，這使得產品化對於幾乎所有有想法的人都變得可行，從而導致了開發者活動的激增。例如，Meta的Llama模型在八個月內的下載量增加了3.4倍。此外，報告指出，儘管模型成本不同，但AI模型的性能正在迅速趨於收斂，頂級前沿模型與更小、更高效模型之間的差距正在縮小。

報告總結稱，AI的這種經濟學演變正在引發一場“創造力的大爆發”。開發者可以根據技術或財務需求選擇最合適的模型，而非受限於單一供應商，這正在重塑AI模型提供商的商業模式，迫使它們重新思考如何實現盈利。