ディープフェイク技術の普及に伴い、インターネット上の虚偽情報が急増しています。ID検証プラットフォームSumsubのデータによると、2023年から2024年にかけてディープフェイクの数は4倍に増加し、2024年には全ての詐欺行為の7%を占めました。これには、なりすまし、アカウント乗っ取り、そして高度なソーシャルエンジニアリング攻撃など、様々な形態が含まれています。

Meta、メタバース、Facebook

この課題に対処するため、Meta社は最近、AI生成ビデオにほぼ検知できない透かしを追加する新しい透かしツール「Meta Video Seal」を発表しました。このツールはオープンソース化されており、既存のソフトウェアとのシームレスな統合を目的として設計されています。Meta Video Sealは、Watermark AnythingやAudio SealなどのMetaの既存の透かしツールに加わります。

MetaのAI研究科学者であるピエール・フェルナンデス氏は、TechCrunchのインタビューで次のように述べています。「私たちは、特にAI生成ビデオの検出とオリジナルの保護を目的として、より効果的なビデオ透かしソリューションを提供するためにVideo Sealを開発しました。」

Video Sealが初めての技術ではないことは事実で、DeepMindやMicrosoftにも同様のビデオ透かし技術がありますが、フェルナンデス氏は既存のソリューションにはいくつかの欠点があると指摘しています。「多くの透かしツールは、ビデオ圧縮時の堅牢性に欠け、ソーシャルプラットフォームでの幅広い使用が難しく、オープン性と再現性に欠けています。」

透かしに加えて、Video Sealはビデオに隠れた情報を追加し、後でその出所を特定できるようにします。Metaは、このツールがぼかし、切り抜きなどの一般的な編集操作、そして一般的な圧縮アルゴリズムにも耐えられると主張しています。しかし、フェルナンデス氏は、Video Sealでは透かしの視認性と操作に対する堅牢性の間にトレードオフがあると認めています。過度の圧縮や大規模な編集は、透かしに影響を与え、復元不可能にする可能性があります。

もちろん、Video Sealが直面する大きな課題は、特に独自のソリューションを既に使用している企業にとって、開発者や業界による採用意欲が低い可能性があることです。この問題に対処するため、Metaは、様々な透かし手法のパフォーマンスを比較するための公開ランキング「Meta Omni Seal Bench」を発表し、今年のICLR会議で透かしに関するワークショップを開催する予定です。

フェルナンデス氏は、より多くのAI研究者や開発者が何らかの形で透かしを彼らの仕事に統合し、業界や学術界と協力してこの分野の発展を促進することを期待しています。

要点:

🔍 Metaが発表したMeta Video Sealツールは、AI生成ビデオに透かしを追加し、編集や圧縮に耐性があります。

📊 このツールはオープンソース化されており、既存のソフトウェアとの統合を目指しており、業界における透かし技術の発展を促進することを目指しています。

🏆 Metaは、様々な透かし手法を比較するための公開ランキングも発表し、業界の協力と交流を促進します。