近日,Google DeepMind 正在將其 SynthID 技術集成到其 Gemini 模型中,並將其作爲開源項目發佈。SynthID for Text 使用複雜的流程來干預大型語言模型 (LLM) 的文本生成。
SynthID 會略微調整 LLM 預測的下一個標記的概率分數,但前提是它不會影響輸出的質量、準確性或創造力。這個過程會對所有生成的文本重複,形成了水印。
據 Google DeepMind 介紹,這項技術可以應用於最少三句話。對於較長的文本,水印會變得更加穩健和準確。雖然該方法適用於各種語言,但在編輯 AI 文本時,它存在一些弱點。
Google DeepMind 已將 SynthID 集成到 Gemini 應用程序和網站中,用於爲生成的文本添加水印和識別。該技術還可作爲開源項目在 GitHub、Google Responsible Generative AI Toolkit和Hugging Face上使用。
Google DeepMind 聲稱 SynthID 的表現優於現有的文本水印系統。此前,Google DeepMind 已推出用於圖像、語音和音樂的 SynthID 。