近日,約翰・霍普金斯大學推出了一種名爲 EGO-Prompt 的框架,該框架顯著提高了小型語言模型在專業領域任務中的表現,性能提升近50%,同時將成本降低了83%。這一創新的框架主要用於解決專業領域任務,如醫療診斷和交通管理,使得小型 AI 模型能夠媲美大型推理模型。

在實際應用中,設計合適的提示詞是一個挑戰,這不僅需要融入專業領域知識,還要確保 AI 能有效推理並提煉關鍵信息。EGO-Prompt 框架的核心在於它能自動生成優化的提示詞,並結合因果邏輯幫助 AI 像人類一樣分步思考。

image.png

該框架從專家提供的簡單提示和因果關係圖開始,經過自動優化,生成具體推理指引,使 AI 的思考更爲清晰。這一過程通過真實數據反覆調整因果圖和提示詞,直到達到最佳效果。此外,EGO-Prompt 還能提升模型的可解釋性,讓用戶更容易理解 AI 的判斷依據。

與之前的最佳方法相比,EGO-Prompt 的 F1分數平均提高了7.32% 到12.61%。使用這一框架的小型 AI 模型,能夠在成本低至原有的20% 下,達到大型 AI 模型的效果。這種動態的知識進化方式,使得專家知識不再是靜態的,而是與模型共同成長。

EGO-Prompt 的創新之處在於將專家知識從靜態圖譜轉變爲語義因果圖(Semantic Causal Graph, SCG),並允許初始圖譜存在一定的不完美。這種容錯設計使得優化過程更爲靈活,從而避免了模型在生成過程中可能出現的語義漂移。

EGO-Prompt 通過精巧的兩階段推理機制,將推理過程分解爲指導生成和條件推理兩個步驟,極大降低了模型的認知負荷,使其在處理複雜的專業領域數據時更加高效。

github:https://github.com/miemieyanga/EGO-Prompt

劃重點:

- 🚀 EGO-Prompt 框架使小型 AI 模型的性能提升近50%,成本降低83%。

- 📊 新方法通過自動優化提示詞和因果邏輯,提升 AI 推理能力。

- 🧠 採用語義因果圖,允許初始知識圖存在不完美,推動知識動態進化。