在當今的商業環境中,企業普遍認爲,人工智能模型的運算需求極爲龐大,因此他們必須尋求更多的計算能力。但 Hugging Face 的 AI 與氣候負責人 Sasha Luccioni 認爲,企業可以通過更聰明的方式使用 AI,來提高模型的性能和準確性,而不是一味追求更高的計算資源。
Luccioni 指出,企業在使用 AI 時常常選擇大型通用模型,然而實際上,針對特定任務的精簡模型可以在精確度和成本上超過這些大型模型,並且能顯著降低能耗。她的研究顯示,任務特定模型的能耗比通用模型低20到30倍。
其次,企業應當將效率作爲默認選項。通過運用 “推力理論”,可以在系統設計中引導用戶行爲,減少不必要的計算消耗。例如,企業可以限制默認開啓高成本的計算模式,鼓勵用戶選擇最適合的計算方式。
另外,硬件利用率的優化也非常重要。企業應當考慮使用批處理、調整計算精度及優化批次大小,以減少資源浪費。通過對硬件的細緻調節,企業可以大幅提升計算效率。
爲鼓勵能源透明度,Hugging Face 還推出了 AI 能效評分機制,這一評分系統對模型的能耗效率進行評估,促使開發者關注能效問題。
Luccioni 建議企業反思 “更多計算就更好” 的傳統思維。與其追求大型 GPU 集羣,不如從如何聰明地達成結果出發,利用更優的架構和數據管理來提升性能。
劃重點:
🌟 選擇針對特定任務的模型比使用大型通用模型更具成本效益,能顯著降低能耗。
🔍 將效率設爲默認選項,通過推力理論減少不必要的計算開銷。
⚙️ 優化硬件利用率和能效評分,提升計算效率,促進可持續 AI 系統的發展。