7月13日，螞蟻AI安全實驗室宣佈開源智能體安全護欄SingGuard-NSFA，並同步披露多模態安全護欄SingGuard的詳細信息。兩款模型分別面向“自主執行的智能體”和“多模態交互的大模型”兩大前沿場景，標誌着螞蟻在AI安全領域進一步完善系統化佈局。

隨着AI從內容生成邁向自主執行，安全問題正從模型輸出擴展到行爲控制、權限管理和系統治理。智能體開始自主調用工具、運行代碼、規劃任務，模型也逐漸具備理解圖像、文本等多模態信息的能力，AI系統的能力邊界不斷拓展，也帶來了新的安全挑戰。

過去一年，提示詞注入、權限濫用、惡意代碼執行、數據泄露等安全事件持續出現。從Amazon Q提示詞投毒、Microsoft Copilot數據泄露，到開源智能體OpenClaw暴露出的提示詞注入風險，都表明智能體自主性越強，安全風險的放大效應越明顯。2025年12月，OWASP發佈《智能體應用安全十大風險》，系統梳理智能體特有安全威脅;2026年5月，國家網信辦、國家發展改革委、工業和信息化部聯合印發《智能體規範應用與創新發展實施意見》，首次從國家層面對智能體安全治理提出明確要求。

在這一背景下，螞蟻AI安全實驗室此次開源兩款安全模型，旨在爲大模型和智能體提供更加完善的底層安全能力。

SingGuard-NSFA:爲智能體操作裝上“實時剎車”

隨着智能體從“回答問題”逐步走向“自主辦事”，AI開始調用工具、執行代碼、編排多步任務，安全風險已經不僅停留在內容層面，而更多體現在行爲層面。提示詞注入、敏感信息竊取、惡意代碼執行、資源耗盡、權限濫用等問題，傳統內容審覈體系難以有效覆蓋。

針對這一痛點，螞蟻AI安全實驗室推出SingGuard-NSFA，在智能體執行動作之前完成實時安全檢測，從請求攔截和響應兜底兩端構建行爲安全防護體系。

SingGuard-NSFA基於CIA（保密性、完整性、可用性）原則，結合OWASP等國際安全指南，將智能體風險細分爲7大類、28箇中類和185個具體場景，並建立覆蓋133種語言、近10萬條樣本的智能體安全評測體系。

在技術實現上，SingGuard-NSFA兼顧了安全審計和實時防護兩種需求。它提供兩種工作模式:一種模式可以逐條生成詳細的風險分析報告，方便事後審查和合規記錄;另一種模式則能在50毫秒左右完成單次風險判定，適合線上高併發場景下的實時攔截。並提供0.8B、2B、4B、9B四種模型規模，滿足不同部署需求。

image.png

多項公開評測顯示，SingGuard-NSFA在智能體輸入、輸出安全檢測中均取得領先表現。其中，0.8B模型即可達到8B模型性能水平，新增風險類別時僅需訓練輕量模塊，無需重新訓練整個模型，可進一步提升現有安全護欄的檢測能力。

SingGuard:多模態內容安全的“全能守門員”

與智能體操作安全並行的另一條防線，是多模態交互場景下的內容安全。今年6月，Anthropic發佈旗艦模型Claude Fable5，數日內即被研究者用Unicode字符和西裏爾字母替換敏感詞繞過了安全護欄——模型能還原原意，分類器卻視其爲陌生拼寫，系統提示詞因此被套出。這表明，模型越能讀懂變形文字、圖片和跨模態信息，傳統關鍵詞識別式的護欄就越力不從心。

SingGuard正是爲此設計的多模態安全護欄。它面向文本、圖片及跨模態內容建立統一安全判斷框架，可識別攻擊者將惡意動作隱藏在文字、圖片等不同模態中的複雜攻擊。同時支持運行時動態加載自然語言安全規則，無需重新訓練模型即可完成規則更新，更適用於規則持續演進、業務流量較大的生產環境。

在推理機制上，SingGuard採用“快慢結合”模式:先快速完成初步判斷，只有面對複雜場景時才啓動進一步推理，在保證效率的同時提升檢測準確率。

image.png

在覆蓋文本查詢、文本回復、圖像、多模態和多語言的6大類評測中，SingGuard在35個數據集及評測切分上的平均F1均爲最高。其對比對象涵蓋Llama Guard3、谷歌ShieldGemma、GPT-5.1、Gemini3-Pro等業內最具代表性的主流護欄，SingGuard均實現全面領先。

中國信通院人工智能研究所安全治理部副主任呼娜英表示，隨着大模型從內容生成邁向自主執行，AI安全正從內容審覈延伸至行爲管控和系統治理，成爲智能體規模化應用的重要基礎能力。螞蟻AI安全實驗室已針對開源智能體框架OpenClaw開展專項安全審計，並於今年4月聯合清華大學開源智能體安全防禦插件ClawAegis，爲自主智能體提供覆蓋全生命週期的安全防護能力。此次SingGuard-NSFA與SingGuard多模態安全護欄相繼開源，是螞蟻集團持續推進AI安全技術研發和開放生態建設的重要實踐。

這些安全技術的研發與開源，建立在螞蟻集團二十餘年的安全技術積累之上。依託在支付安全、數據安全、隱私保護和風險治理等領域的長期實踐，螞蟻持續完善AI安全體系，相關能力已應用於螞蟻阿福、AI版支付寶“阿寶”、支付寶“AI付”等業務場景。

與此同時，螞蟻集團持續參與AI安全標準和治理體系建設，參與IIFAA《終端智能體可信互聯技術規範》制定，牽頭ITU國際標準《終端智能體可信互聯技術規範》立項，併發布智能體安全可信互連協議ASL，持續推動AI安全能力從技術創新走向產業實踐。