中国中央電視台（CCTV）の報道によると、湖北省黄石市で最近摘発された事件で、犯罪グループがAI顔認証技術を利用してソーシャルメディアアカウントのロックを解除し、転売して不正に利益を得ていたことが分かりました。被害者の王さんは、株式投資のライブ配信チャンネルに参加した後、投資を誘導され、最終的に出金に問題が発生しました。容疑者アカウントは詐欺容疑で凍結され、資金を引き出すことができませんでした。

警察の捜査によると、事件に関与したソーシャルメディアアカウントは凍結が解除され、再度ログインされたことが判明し、グループがアカウントの解除に協力していたと推測されています。捜査の結果、黄石市警察は河南省で容疑者3人を逮捕し、多数の電子機器と電話カードを押収しました。容疑者の高某と許某は2023年9月末から、オンラインでソーシャルメディアアカウントの販売とロック解除の支援を行い、AI顔認証技術を利用して作成した動画で、プラットフォームによって凍結されたアカウントのロックを解除していました。アカウント1つあたりの解除料金は15～30元で、合計2107個のアカウントのロックを解除し、40万元の不正利益を得ていました。

ロボット AI 人工知能223

工業情報化部サイバー詐欺対策専門チームの専門家は、犯罪者は公開チャネルから被害者の肖像写真や動画を入手し、AI技術を利用して学習と模倣を行い、本物と見分けがつかない効果を実現していると指摘しています。AI顔認証技術は、静止画の人物を動画のように動かすだけでなく、リアルタイムのビデオ通話状態での顔の入れ替え、さらには音声の模倣も可能です。

現在、関係当局はAI顔認証詐欺の検出と早期警戒技術の開発を進めており、携帯端末メーカーと協力してリスク警告機能を導入し、ユーザーデータの漏洩を防ぎ、ユーザーの許可を得た上で警告を促しています。

「インターネット情報サービス深度合成管理規定」によると、深度合成サービスプロバイダーは、合成コンテンツに透かしを追加し、コンテンツがAIによって生成または合成されたことを公衆に知らせる必要があります。同時に、ソースの追跡を容易にする必要があります。専門家は、個人情報の保護を強化し、安易に個人情報を提供せず、動画やGIF画像を無断で公開しないよう、特に送金依頼がある場合は、複数の方法で確認し、騙されないよう注意するよう警告しています。