近年、音声アシスタントから自動運転技術まで、AIは私たちの生活のあらゆる面に浸透しています。しかし、AI技術の広範な応用は潜在的なリスクも生み出し、その中でもディープフェイク技術が社会的な注目を集めています。

ディープフェイク技術は、アルゴリズムを利用して非常にリアルな偽のコンテンツを生成します。大量の現実のデータから学習することで、人物や風景と非常に似た動画や画像を生成します。この技術はAIの潜在能力を示していますが、同時に詐欺行為を生み出しています。例えば、最近では張文宏医師の容貌と声を装ってライブコマースで商品販売を行う事件が発生しました。偽造動画の中で、合成された人物が商品を宣伝し、1200点以上の商品が販売されました。この事件は張文宏医師と社会大衆の強い不満を引き起こしました。

AI、人工知能、ロボット、デジタルヒューマン

画像出典：AI生成画像、画像ライセンス提供元Midjourney

上海市消費者权益保護委員会副秘書長の唐健盛氏は、AI技術を利用して有名人の肖像権を侵害するこのような行為は、消費者の権利を深刻に侵害していると述べています。同様の事例としては、国慶節期間中に雷軍氏の画像を使った悪ふざけ動画や、劉徳華氏の声を装ってトラフィックを集めた事例などがあります。関連企業や有名人は、大衆に警戒を促す声明を発表しています。

専門家は、現在のAI技術は他人の顔や声を簡単に複製でき、生成されたコンテンツの精度は非常に高いと指摘しています。しかし、このような技術にも完璧なものではありません。顔と背景の融合度や音声と口元の整合性を注意深く観察することで、異常を発見することができます。さらに、リアルタイムライブストリーミングは、現時点ではこのような技術では実現が困難です。

法曹関係者は、許可なく他人の肖像権や声を使用する行為は違法行為に該当すると明確に述べています。中国政法大学副教授の朱巍氏は、『民法典』に基づき、この行為は人格権を侵害しており、『網絡安全法』に基づき、関連コンテンツは違法情報に該当し、発信者は刑事責任を問われる可能性があると強調しています。

消費者にとって、AIによる有名人になりすましたライブコマースで商品を購入した場合、『消費者权益保護法』に基づき、販売業者に「返品と3倍の賠償」を要求でき、賠償額は最低500元です。同時に、短編動画プラットフォームも監督責任を負い、関連コンテンツの審査と罰則を強化し、違法情報の広範な拡散を防ぐ必要があります。

ディープフェイク技術の台頭は、AIの利便性を享受する一方で、その潜在的なリスクにも警戒する必要があることを大衆に思い出させます。