近日，《華爾街日報》報道稱，人工智能公司 OpenAI 已開發出一款能夠高精度識別 ChatGPT 生成文本的工具，但尚未正式發佈。對此，OpenAI 予以迴應，承認正在研究文本水印技術，但表示該技術仍面臨諸多挑戰。

據悉，OpenAI 計劃通過文本水印技術專注於檢測來自 ChatGPT 的文字，而非其他公司模型生成的內容。這種技術將對 ChatGPT 選擇單詞的方式進行微小調整，在文字中創建一個不可見的"水印"，之後可通過專門工具進行檢測。

OpenAI，人工智能，AI

OpenAI 表示，文本水印只是他們探索的多種解決方案之一，其他方案還包括分類器和元數據等，旨在確定文本的來源。雖然在某些情況下文本水印技術表現出色，但面對翻譯、改寫或插入特殊字符等篡改行爲時，其效果會有所下降。此外，該技術可能對非英語母語者等特定羣體產生不成比例的影響。

鑑於上述複雜因素及其對整個生態系統的潛在影響，OpenAI 表示將謹慎推進文本溯源技術的研究，並優先考慮開發視聽內容的認證工具。

這一決策引發了業界對 AI 生成內容識別和管理問題的廣泛討論。隨着 AI 技術的快速發展，如何在保護創新與防範風險之間取得平衡，成爲各方關注的焦點。