近期,人工智能企業Anthropic爲了讓AI生成的文本更容易被辨別,在其部分Claude模型中引入了一種“不可感知的水印”。這種水印是通過Claude獨特的選詞方式形成的統計模式來實現的,即便用戶直接複製粘貼,水印也會跟隨內容一同保留。Anthropic表示,此舉是爲了履行歐盟《人工智能法案》的相關承諾。

然而,這一舉措在科技行業引發了不小的爭議。許多用戶和從業者擔憂,即使用戶只是利用Claude進行基礎的文本校對、翻譯或總結,這種隱形標記也會跟隨最終成果一同傳播。此前甚至有用戶向媒體反映,他們因此取消了Claude的訂閱服務。爲了應對這一情況,相關搜索熱度直線上升,各類專門用於消除文本中AI標記的去水印工具也開始涌現。

面對用戶的反彈與需求,多位開發者迅速行動推出了應對方案。來自巴黎的科技創業者、AI電商工具Memo創始人Guillaume Meyer,在Anthropic宣佈計劃幾天後便發佈了一個名爲Watermarks Remover的開源項目。該工具通過刪除隱藏字符和元數據,並在保持原文含義的同時重新改寫文本,以此來破壞可能攜帶水印的統計性選詞模式。該項目開發僅用了約 5 小時,在GitHub上迅速獲得了超過1. 4 萬個Star,不過Meyer也坦言該工具並不能保證100%徹底移除水印。

Meyer公開表示,自己雖然支持內容歸屬標註,但反對這種把作者身份簡單定性爲非黑即白的非理性水印技術。與此同時,提供AI教育服務的Sabrina Ramonov在社交平臺上表示,她開發了一款免費的瀏覽器端Watermark Remover,宣稱可從文本、PDF、Word文檔、網頁、圖片及數據文件中清除隱藏的AI標記。常駐東京的軟件開發者Ansh Aneja也在Anthropic宣佈功能的當天開發了專門針對Claude的水印移除工具,隨後又發佈了本地開源版本MarkScrub,據稱在一天之內用戶量就實現了大幅增長。

從技術和法律層面來看,這些AI水印移除工具目前處於一個微妙的灰色地帶。蘇黎世聯邦理工學院研究員Thibaud Gloaguen指出,這些工具再次體現了水印技術長期存在的侷限性,即總會有辦法通過重新措辭等方式移除水印。

在法律法規方面,歐盟《人工智能法案》要求AI服務提供商的內容標記系統能夠抵禦常見的修改和對抗性操作,並將移除或修改列爲應評估的潛在威脅,但法案本身並沒有明確禁止第三方開發或嘗試移除AI水印。不過,法律專家指出,如果用戶利用這類工具將AI生成的內容惡意僞裝成人類創作,就可能違反Anthropic的使用政策,因爲其條款禁止用戶冒充人類。隨着Anthropic計劃在下一代模型發佈時同步推出文本檢測API,並逐步將水印功能推廣至舊款模型,圍繞AI水印與去水印工具的博弈未來仍將持續升級。