騰訊推出 AI 生成內容檢測工具，打擊虛假信息

隨着人工智能技術的迅猛發展，AI 生成的文本、圖像和視頻在各個領域的應用日益成熟。然而，這也伴隨着信任危機的出現，虛假信息的傳播對社會造成了潛在的威脅。爲了應對這一挑戰，騰訊於近日推出了一款全新的 AI 生成內容檢測工具，旨在通過 AI 技術 “打假 AI”。

這款工具由騰訊的朱雀實驗室研發，分爲 AI 生成文本檢測和 AI 生成圖像檢測兩個系統。騰訊官方指出，儘管 AI 生成的圖像在外觀上愈加真實，但仍然存在一定的可識別性。通過對上傳圖像進行幾秒鐘的快速驗證，用戶可以判斷該圖像是否由 AI 生成。

在檢測邏輯上，系統主要是通過捕捉真實圖像與 AI 生成圖像之間的細微差異來進行區分。例如，AI 生成的圖像有時會違反常識邏輯，或可能在某些情況下需要添加水印。此外，AI 生成圖像還可能包含特定的隱層特徵。爲了確保檢測的準確性，騰訊在模型訓練中使用了140萬份正負樣本，涵蓋了人體、風景、人物、地標等多種場景，最終測試的檢出率達到了95% 以上，並且系統還在持續優化中。

在文本檢測方面，騰訊的檢測系統同樣依靠大量正負樣本進行訓練，能夠覆蓋新聞、公文、小說、散文等多樣化文體。通過對比檢測文本與大模型的預測內容，系統能夠推測出文本的 AI 生成概率，從而提升對未見過數據的檢測能力。未來，騰訊還計劃將文本檢測系統擴展至詩歌等其他體裁，以進一步提高識別準確率。

通過這一創新舉措，騰訊希望能夠爲用戶提供更加安全、可信的網絡環境，有效抵制虛假信息的傳播，助力社會的健康發展。