Metaが反撃開始！AIビデオ透かしツール「Video Seal」をオープンソース化し、ディープフェイクの蔓延に対抗

今日では、ディープフェイクはあらゆる場所に浸透しています。生成AIの普及に伴い、インターネット上の偽情報は爆発的に増加しています。認証プラットフォームSumsubの統計によると、2023年から2024年にかけて、世界のディープフェイク数は4倍に増加しました。2024年には、ディープフェイクがすべての詐欺行為の7％を占め、なりすまし、アカウント乗っ取りから複雑なソーシャルエンジニアリング攻撃まで、ディープフェイクが関与しないものはありません。

ディープフェイクを効果的に阻止するために、Meta社は最近、AIで生成されたビデオクリップに気づかれにくい透かしを追加できるツールを発表しました。Meta Video Sealと名付けられたこのツールは、木曜日にオープンソースとして発表され、既存のソフトウェアに統合することを目指しています。このツールは、Metaの他の透かしツールであるWatermark Anything（本日、寛容なライセンスで再リリース）およびAudio Sealと合わせて、完全な透かしソリューションを構成します。

Meta AIの研究科学者であるピエール・フェルナンデス氏は、TechCrunchのインタビューで、「Video Sealを開発したのは、より効果的なビデオ透かしソリューションを提供するため、特にAIで生成されたビデオの検出と独創性の保護においてです」と述べています。

Video Sealは、このような技術としては最初のものではありません。DeepMindのSynthIDはビデオに透かしを追加でき、Microsoftにも独自のビデオ透かし方法があります。

しかし、フェルナンデス氏は、多くの既存の方法には欠点があると考えています。

「他の透かしツールもありますが、ビデオ圧縮に対する堅牢性が不十分です（ソーシャルプラットフォームでコンテンツを共有する場合、ビデオ圧縮は非常に一般的です）。大規模な適用には効率が不十分です。十分にオープンまたは再現性がありません。または、画像透かしに由来しますが、画像透かしはビデオに最適な選択肢ではありません」とフェルナンデス氏は述べています。

透かしに加えて、Video Sealはビデオに隠しメッセージを追加することもでき、後でビデオの出所を明らかにすることができます。Metaは、Video Sealがぼかしやトリミングなどの一般的な編集操作、および一般的な圧縮アルゴリズムに耐えることができると主張しています。

フェルナンデス氏は、Video Sealには、主に透かしの知覚可能性とその操作全体に対する耐性との間のトレードオフという、いくつかの限界があると認めています。彼は、高強度圧縮と大幅な編集によって、透かしが変更されるか、復元できなくなる可能性があると付け加えています。

もちろん、Video Sealが直面するより大きな問題は、特に独自のソリューションを既に使用している企業において、開発者や業界がそれを採用する理由があまりないことです。この問題に対処するために、Metaは、さまざまな透かし方法のパフォーマンスを比較するために特化した、公開ランキングMeta Omni Seal Benchを立ち上げています。さらに、Metaは今年のICLR（国際学習表現会議）で、透かしに関するワークショップを開催します。ICLRは重要なAI会議です。

「ますます多くのAI研究者や開発者が、何らかの形の透かしを彼らの仕事に統合することを願っています」とフェルナンデス氏は述べています。「この分野の発展を加速するために、業界や学界と協力したいと考えています。」

Metaのこの動きは、ディープフェイクの蔓延に対抗するための新しいアイデアを提供するものです。オープンソース、オープンコラボレーションは、この難しい問題を解決するための効果的な方法かもしれません。しかし、Video Sealの未来は、それが業界で広く受け入れられ、適用されるかどうか、そしてディープフェイクの「魔高一尺」に対抗する能力に依存します。