隨着越來越多的企業開始將AI應用於客戶服務、運營管理等核心業務場景，企業AI安全風險也呈現出更加複雜、多元的發展趨勢。除傳統的大模型越獄、敏感信息泄露等風險外，工具濫用、智能體越權執行、多智能體協同攻擊等新型風險不斷出現。

8月20日，國際數據公司IDC發佈《IDC MarketScape: 中國生成式AI安全評估平臺2026年廠商評估》報告，聚焦中國生成式AI安全評估平臺市場，對主流廠商進行全面評估，其中螞蟻數科憑藉其在生成式AI安全評估領域的技術能力、產品成熟度以及在金融、醫療、製造業的深度積累與規模化落地成果，成功入選領導者類別。

image.png

據瞭解，針對生成式AI產生的新型安全風險，螞蟻數科蟻天鑑依託螞蟻在生成式AI安全領域的深度積累與實踐，構建了覆蓋大模型與智能體全鏈路的安全可信防禦體系，爲行業提供全方位、智能化的大模型安全測評與防護解決方案。

在大模型安全層面，蟻天鑑大模型安全平臺構建了“評測-防禦-運營”閉環，覆蓋大模型訓練、推理、部署全生命週期，可應對各類大模型投毒、提示詞攻擊等複雜攻擊場景，同時對敏感數據的實時監測與精準攔截，降低數據泄露與合規風險。值得一提的是，蟻天鑑還能夠針對模型安全問題進行自動修復，引導大模型進行安全推理，全面護航大模型安全。

在智能體安全層面，“蟻天鑑龍蝦衛士” 依託輕量化插件技術架構，構建了面向智能體運行環境的全鏈路安全監測與防護體系，能精準識別異常調用行爲、越權訪問請求及潛在的惡意指令注入風險，可無縫適配多類型智能體運行框架，爲企業級智能體應用的安全穩定運行提供可靠支撐。

截至目前，螞蟻數科已經服務100%國有股份制銀行、超60%地方性商業銀行等超百家金融機構，其AI安全能力經歷金融級場景的實踐驗證。

IDC 認爲，未來，企業關注的不再只是模型是否能夠抵禦越獄攻擊，而是更加關注整個 AI 應用系統在實際業務場景中的安全表現。與此同時，評估能力也將逐步融入企業 AI 開發、部署、運營及治理全過程，實現由”一次性安全測試”向”持續安全驗證”轉型。