隨着人工智能生成內容（AIGC）技術的飛速發展，社交媒體上那些栩栩如生的圖片和視頻讓人難以分辨真假。爲了應對這一挑戰，研究人員聯合推出了 “IVY-FAKE”—— 一個首個專門針對圖像和視頻的可解釋性檢測框架，旨在讓 AI 不僅能識別內容的真實性，更能清晰解釋其判斷依據。

在 AIGC 時代，傳統的檢測工具往往處於 “黑箱” 狀態，雖然能夠判斷某個圖像或視頻是否爲 AI 生成，但卻無法提供詳細的解釋。這樣的侷限性不僅影響了用戶的信任，也使得技術在實際應用中面臨障礙。IVY-FAKE 的誕生正是爲了解決這一問題。該框架不僅能夠識別圖像和視頻的僞造，還能詳細指出哪些具體的視覺僞影導致了判定的結果。

機器人 人工智能 AI

圖源備註：圖片由AI生成，圖片授權服務商Midjourney

IVY-FAKE 的核心在於其大規模、多模態的數據集和先進的檢測模型。數據集包含超過15萬張圖像和視頻，覆蓋多種內容類型，並附有詳細的自然語言推理說明，解釋爲何判定某樣本爲真實或僞造。這種詳盡的標註，超越了以往僅提供簡單 “真” 或 “假” 標籤的方式，使得模型的透明度和可信度大大提升。

與此同時，IVY-XDETECTOR 模型的提出，也爲可解釋性檢測的實現提供了技術支撐。該模型採用了動態分辨率處理和漸進式多模態訓練框架，能更好地理解高分辨率圖像和視頻的特徵。研究者們期望，通過這一框架，能夠推動 AIGC 檢測的統一發展，提升其在實際場景中的應用效果。

隨着 AI 生成內容的普及，IVY-FAKE 的推出無疑爲我們應對虛假信息和內容溯源問題提供了新的解決方案，讓我們能夠更有信心地辨別內容的真實與否。