隨着生成式人工智能的商業化，網上虛假內容的數量急劇增加。根據身份驗證平臺Sumsub的數據顯示，從2023年到2024年，全球深度僞造的數量增長了四倍。2024年，深度僞造佔所有欺詐行爲的7%，涉及從冒名頂替、賬戶接管到複雜的社會工程活動等多種形式。

爲應對這一問題，Meta發佈了一款新的工具——Meta Video Seal，旨在通過在AI生成的視頻中加入不可察覺的水印來打擊深度僞造。這款工具於週四開源發佈，旨在便於集成到現有的軟件中，並與Meta之前推出的其他水印工具Watermark Anything和Audio Seal相輔相成。

Meta，元宇宙，Facebook

Meta的人工智能研究科學家Pierre Fernandez在接受訪時表示:“我們開發Video Seal的目的是提供更有效的視頻水印解決方案，特別是用於檢測人工智能生成的視頻並保護原創性。”

儘管Video Seal並不是首個提出的視頻水印技術，DeepMind的SynthID和微軟的水印方法也在市場上已有一定應用，但費爾南德斯指出，現有的水印工具普遍存在一些不足之處。他表示:“雖然有其他水印工具，但它們在視頻壓縮後效果不佳，而視頻壓縮在社交平臺上傳播內容時非常常見;一些方法的運行效率也較低，無法開放或無法複製;此外，許多方法源自圖像水印，但圖像水印並不適用於視頻。”

除了水印功能，Video Seal還可以在視頻中嵌入隱藏信息，後續可以通過揭開這些信息來追溯視頻的來源。Meta宣稱，Video Seal能夠有效抵抗模糊、裁剪等常見編輯手段，以及常用的壓縮算法。

然而，Fernandez也承認，Video Seal存在一定的侷限性，特別是在水印的可察覺程度與抗篡改能力之間的權衡。他指出，過度壓縮和大幅編輯可能會破壞水印或使其無法恢復。

Meta面臨的更大挑戰是，開發者和行業人士缺乏使用Video Seal的動機，特別是那些已經在使用其他專有解決方案的用戶。爲此，Meta推出了一個名爲Meta Omni Seal Bench的公共排行榜，用於對比不同水印技術的性能，並將在今年的主要AI會議ICLR上舉辦一場關於水印技術的研討會。

Fernandez表示:“我們希望越來越多的AI研究人員和開發者能夠在他們的工作中融入某種形式的水印技術，並希望與業界和學術界合作，推動該領域的更快發展。”