近日，阿里通義實驗室宣佈開源全新預訓練框架MaskSearch，通過創新的檢索增強掩碼預測（RAMP）方法和強化學習技術，顯著提升AI在複雜問題解決中的表現。這一框架讓AI學會主動搜索與多步推理，爲智能搜索和問答系統開闢了新的可能性。AIbase編輯團隊整理了最新信息，爲您深度解析MaskSearch的亮點與行業影響。

MaskSearch:讓AI學會“主動搜索+多步推理”

MaskSearch的核心創新在於其**檢索增強掩碼預測（RAMP）**機制。這一機制通過模擬“填空題”的方式，訓練AI在面對不完整信息時，主動調用搜索引擎查找缺失內容，並結合已有信息進行推理。AIbase瞭解到，RAMP任務通過在預訓練階段引入大量“掩碼”數據，讓模型逐步學習從簡單到複雜的推理技能。這種循序漸進的訓練方式，不僅增強了AI對外部知識的利用能力，還顯著提升了其在多步推理任務中的表現。

image.png

在實際測試中，基於Qwen2.5-1.5B模型的MaskSearch在Bamboogle數據集上實現了11.78%的性能提升，在HotpotQA等開放域問答數據集上也展現了穩定的召回率提升。相比傳統檢索增強生成（RAG）方法，MaskSearch在跨數據集的泛化能力上表現尤爲突出，尤其在處理需要多步推理的複雜問題時，展現了更強的適應性和準確性。

強化學習加持:DAPO算法提升複雜任務表現

MaskSearch的另一大亮點是採用了DAPO算法（數據增強與策略優化算法），結合格式獎勵和回答獎勵的強化學習機制，進一步優化AI在複雜任務中的表現。格式獎勵確保模型生成的答案結構清晰、邏輯嚴謹，而回答獎勵則激勵模型輸出更準確、更貼合問題需求的內容。這種雙重獎勵機制使得MaskSearch在處理開放域問答、邏輯推理等任務時，能夠更高效地分解問題並生成高質量答案。

AIbase分析發現，DAPO算法與RAMP任務的結合，讓Qwen2.5-1.5B等小型模型在性能上可媲美更大規模的模型。例如，在HotpotQA數據集上，MaskSearch通過強化學習優化，實現了3至5個百分點的性能提升，展現了其在資源受限場景下的巨大潛力。

image.png

開源賦能:推動AI搜索技術普及

阿里通義實驗室將MaskSearch完全開源，標誌着其在推動AI技術民主化上的又一重要舉措。開發者可以通過GitHub獲取MaskSearch的代碼和相關文檔，輕鬆將其集成到現有的AI系統中。AIbase注意到，MaskSearch不僅支持Qwen系列模型，還兼容LLaMA等其他開源模型，展現了良好的通用性。這種開放性爲全球開發者提供了低門檻的實驗平臺，有望加速智能搜索和推理技術在教育、醫療、法律等領域的應用。

社交媒體上，開發者對MaskSearch的開源反響熱烈，許多人表示這一框架爲小型模型的推理能力提升提供了新思路。AIbase認爲，MaskSearch的開源將進一步推動開源AI社區的發展，縮小開源模型與閉源模型在複雜推理任務上的差距。

行業影響:重塑智能搜索與問答生態

MaskSearch的發佈不僅是阿里通義實驗室的技術突破，也是AI搜索與推理領域的重要里程碑。AIbase觀察到，傳統的檢索增強生成（RAG）方法在處理複雜問題時，往往受限於任務特定數據的質量和模型的推理能力。MaskSearch通過預訓練階段的RAMP任務和強化學習優化，賦予了AI更強的自主搜索與多步推理能力，使其在開放域問答、知識密集型任務中表現更爲出色。

例如，在Bamboogle數據集上，Qwen2.5-1.5B結合MaskSearch後，性能提升了11.78%，而LLaMA模型的增益更是高達15.12%。這些數據表明，MaskSearch不僅提升了模型的召回率，還顯著增強了其跨數據集的泛化能力，爲構建更智能的搜索代理奠定了基礎。

未來展望:AI推理進入新階段

MaskSearch的推出標誌着AI推理技術邁向了更智能、更自主的新階段。阿里通義實驗室表示，未來將進一步優化MaskSearch的訓練流程，探索更高效的強化學習算法，並擴展其在多模態推理任務中的應用。AIbase預測，隨着MaskSearch的廣泛應用，智能搜索、問答系統乃至自動化決策領域都將迎來新的發展機遇。

對於開發者而言，MaskSearch不僅是一個強大的預訓練框架，更是一個可擴展的平臺，未來有望支持更多任務類型和模型架構。

項目地址：https://github.com/Alibaba-NLP/MaskSearch