中国中央テレビの報道によると、最近、中高年女性を狙ったAI結婚紹介詐欺が発生しています。不正な人物はAIを使って架空の結婚相手を作り出し、金銭をだまし取るという手口です。四川省成都市の警察は最近、「AI結婚紹介」のグループを摘発し、王さんなどの28人の容疑者を逮捕しました。事件の関与額は百万人民元を超え、約50人以上の被害者がいます。

「二枚舌」という手口：AIのキャラクター＋本物のスタッフによる後始末

被害者の卞さんは動画プラットフォームで結婚紹介会社を見つけ、アカウント名「マッチングセンター王主任」が「李さん」という人物のプロフィールと写真を送ってきました。彼女は2,000元のサービス料を支払ったものの、相手に連絡を取ることができませんでした。警察の調査では、契約した会社は存在せず、現地の会社には販売担当、編集担当、放送担当の職種のみでしたが、編集用コンピュータには卞さんが受け取った同じAI男性のキャラクターが保存されていました。

このグループはAIの男性キャラクターを使って配信を行い、事前に作成された台本をもとに話すことで詐欺を行いました。放送中のスタッフは変声器を使って「優良な男性」としてつながり、後処理担当者は被害者と「二枚舌」のようにやり取りをして、実際の結婚相手の紹介は一切ありませんでした。王さんは卞さんに返金しましたが、警察は彼の配信アカウントを監視し、証拠を確保した後に摘発し、逮捕の際もAIのキャラクターを使って配信を続けていました。

中国中央テレビはこのような架空のキャラクターを使った詐欺が明らかに有害であり、ショートビデオプラットフォームで広がっていることを指摘し、プラットフォームに対してリスクレベルに基づいた対応を強化し、詐欺に関わる情報を関係当局に移管するよう呼びかけています。専門家はAI生成コンテンツに識別マークを付けること、識別とリスク管理の仕組みを整えること、アルゴリズムを通じて広告を遮断することを提案しています。一般ユーザーは疑似AIコンテンツに対して技術的に真偽を確認し、リスク意識を高めることが重要です。