DeepMind、AI悪用における主要な問題として政治的ディープフェイクを特定

Google DeepMindは、最も一般的な悪意のあるAIアプリケーションに関する初の調査を実施し、その結果、偽の政治家や有名人を生成するAI「Deepfakes」が、AIを支援としたサイバー攻撃の試みよりもはるかに一般的であることが明らかになりました。この調査は、GoogleのAI部門であるDeepMindとGoogle傘下の研究開発部門であるJigsawが共同で行ったもので、世界最大のテクノロジー企業が巨額の利益を求めて市場に投入している生成AIツールのリスクを定量化することを目的としています。

テクノロジー関連の悪意のある行為者の動機

調査によると、本物だが偽の画像、ビデオ、音声を作成する行為が、生成AIツールの悪用の中で最も多く、テキストツール（チャットボットなど）を使用して偽情報を生成する方法のほぼ2倍に上ります。生成AIの悪用の最も一般的な目的は世論に影響を与えることで、使用状況の27％を占め、Deepfakesが今年の世界的な選挙にどのように影響するかについての懸念を引き起こしています。

ここ数ヶ月で、英国の首相リシ・スナク氏や他の世界の指導者のDeepfakesがTikTok、X、Instagram上に登場しました。英国の有権者は来週の総選挙で投票します。ソーシャルメディアプラットフォームはこうしたコンテンツの標示や削除に努めていますが、偽物だと気づかない人もいる可能性があり、コンテンツの拡散は有権者の投票に影響を与える可能性があります。DeepMindの研究者たちは、ソーシャルメディアプラットフォームXとReddit、オンラインブログ、メディア報道における悪用事例約200件を分析しました。

調査によると、OpenAIのChatGPTやGoogleのGeminiなどのAI生成製品の悪用の2番目に大きな動機は、Deepfakesの作成サービスを提供することや、偽のニュース記事など大量のコンテンツを生成AIで作成することによる収益です。調査によると、ほとんどの悪用行為は簡単に手に入るツールを使用しており、「最小限の技術的専門知識しか必要ない」ため、より多くの悪意のある行為者が生成AIを悪用できることを意味します。

DeepMindの調査は、同社の評価モデルの安全性の向上に影響を与え、競合他社やその他の利害関係者が「危害の兆候」をどのように認識するかにも影響を与えることを期待しています。

要点：

- 👉 DeepMindの調査では、DeepfakesがAIアプリケーションの悪用の主要な問題であることが判明しました。

- 👉 生成AIツールの悪用の最も一般的な目的は世論に影響を与えることで、使用状況の27％を占めています。

- 👉 生成AIの悪用の2番目に大きな動機は収益で、主にDeepfakesサービスの提供と偽ニュースの作成が含まれます。