Googleは、新たにリリースされたAI画像生成機能を一時停止したことを発表しました。この機能は、誤情報の潜在的なリスクにより、リリースから48時間未満で一時的に停止されました。公式は、さらなるセキュリティ対策を強化すると述べました。以前には、Googleは画像生成モデル「Nano Banana2」をGoogle Earthに統合し、ユーザーがテキスト指示を通じて実際の衛星画像、航空写真、3Dマップ上に架空のシーンを生成できるようにしていました。

Google

BBCによるテストによると、この機能は「エッフェル塔の崩壊」「巨大な陥没地がエジプトのピラミッドを飲み込む」「キーウにロシアの戦車が出現する」など、偽造されたシーンを生成でき、直接ダウンロードおよび共有可能です。このようなAI生成コンテンツは、Google Earthの実際の地理座標とベースマップと組み合わせることで、非常に現実的であり、実際に衛星画像と誤認される可能性があります。

セキュリティ専門家は、戦争や自然災害などの敏感なイベントにおいて、これらの高精細な合成マップが誤情報の拡散に使われ、一般の人々、メディア、そして調査者を誤導する可能性があると指摘しています。これにより、情報の検証に関する新たな課題が生じています。

Googleは、すべてのAI生成画像に非表示のデジタルウォーターマークが埋め込まれており、また「Gemini」または「Google Lens」を通じて真偽を確認できると述べています。しかし、BBCのテストでは一部の検証メカニズムがまだ回避可能であり、一部のサードパーティ検出ツールもAI生成コンテンツを信頼性高く識別できないことが判明しました。

サービスの一時停止は、ジェネレーティブAIが徐々にマップやリモートセンシングなどの高信頼情報シナリオに進出する中で、創造能力を高める一方でディープフェイクや誤情報の拡散を防止するための重要なセキュリティ問題がAI製品の展開において解決すべき鍵となる課題であることを反映しています。