デジタル時代において、偽造動画の現象がますます広がっており、偽情報に対する深刻な懸念を引き起こしています。この課題に直面して、イーロン・マスクが設立した人工知能企業xAIは、開発中のチャットボットGrokが近日中にAI生成動画を検出する能力を持つと発表しました。Grokは動画コンテンツを分析し、その出所を追跡することで、ユーザーが潜在的な偽情報を見極めるお手伝いをします。

このニュースは、10月9日にSNSで投稿された議論の後に発表されました。あるユーザーは、偽造動画がもたらす深刻な結果への懸念を表明し、未来には誰もが簡単にあなたが不適切な発言をしている偽動画を作成でき、それを真実であることを証明するのが難しくなると指摘しました。マスクはこれに対して、Grokが近日リリース予定の新機能により、動画のビットストリームを深く分析し、その中のAI特徴を識別し、ネットワーク上で動画の出所をたどることができると言いました。

image.png

Grokの分析能力は、動画のビットストリーム内の小さな異常を特定することに集中します。例えば、圧縮プロセスにおけるわずかな変化や、生成パターンの不一致などです。さらに、動画のメタデータとネットワーク上の足跡を比較検証することで、動画の真実性を確認します。これは、ユーザーが将来、どの動画が偽造されたもので、どの動画が信頼できるものかをより簡単に見分けられるようになることを意味しています。

2023年にGrok AIがリリースされて以来、マスクはこのチャットボットが人工知能分野で一席を占めるよう努めてきました。今年初めに、GrokはSNSプラットフォームX（旧Twitter）と統合され、両者の連携強化を目的として、Grokを同プラットフォームの中心的な機能の一つにしようとしています。現在、XプラットフォームのユーザーはGrokを使ってコンテンツの事実確認を行うことができ、今後は既存のコンテンツ推薦アルゴリズムをGrokで置き換える予定で、ユーザーによりパーソナライズされた情報フロー体験を提供するつもりです。

また、Grokはマスクが構築している「Grokipedia」（Grok百科）の核心ツールと見なされており、ウィキペディアの有力な代替としての地位を目指しています。マスクはまた、新しいバージョンのGrok動画生成器もリリースし、AI製品の機能をさらに拡張しています。

ますます深刻化する偽情報問題に対応して、Grokのこの新機能はユーザーにとって新たな対処法を提供するものです。