網信辦が対応！AIによるスターの偽物による商品販売の乱れを一掃 1万1千件の違規アカウントが削除

国家インターネット情報部門は最近、公告を発表し、AIを使用して公衆人物を模倣してライブ配信やマーケティングを行う問題を厳しく整備する方針を表明しました。生成型AI技術が急速に広がる中、一部のネットワークアカウントがAIを使って顔の変換や声の偽造、ディープフェイクなどの技術を利用して公衆人物の姿を模倣し、ライブ配信や動画投稿を通じてマーケティング情報を掲載し、ユーザーを誤導しています。これは虚偽宣伝や著作権侵害行為に該当し、ネットワーク環境に深刻な悪影響を与えています。

インターネット情報部門は、最近、法律に基づいて一連の違規アカウントを厳しく処理したと述べました。その例として、「百貨店小売店」、「ナナの商品連盟」、「グローバルスキンケアメイクアップセレクト」などのアカウントがあります。これらのアカウントはAIで有名な人物の姿を偽造して販売やプロモーション、または虚偽の推薦を行っており、通常の市場秩序を乱しています。

執行行動において、プラットフォームも同時に集中的な管理を行うよう求められています。インターネット情報部門は、主要なウェブサイトやプラットフォームに対して特別な統治公告を発表させ、審査を強化し、リスクを徹底的に調査することを促しています。現在までに、関連する違規情報は8,700件以上が削除され、公衆人物を偽造したアカウントは1万1,000個以上が処置されました。これは過去最大規模の対応です。

インターネット情報部門は、今後もプラットフォームの主体責任をさらに強化し、AIを使って公衆人物を模倣してライブ配信やマーケティングを行う行為に対して「高圧的・厳格・ゼロトレラント」の姿勢を維持していくと強調しています。悪意のあるマーケティングアカウントについては、「発見された分だけ、処置し、公開する」という方針を堅持し、クリーンで健全なネットワーク環境をしっかり守っていきます。