最近、AIによる顔と声の入れ替え技術を利用した詐欺事件が2件発生し、犯人はこの技術を使って他人になりすまし、ビデオ通話で巨額の金銭をだまし取ったことが分かりました。このようなAI詐欺はますます増加しており、技術的なハードルとコストも低下しているため、人々の財産、情報、そして現実の安全に大きな脅威をもたらしています。AI顔入れ替え詐欺では、偽造されたビデオ通話を使って、2億香港ドルと430万元が騙し取られました。AI技術の急速な発展により、詐欺師は容易に詐欺行為を行い、成功率を大幅に向上させています。AI詐欺事件は、関与金額が巨額で、成功率が高く、被害者も増加傾向にあるため、社会の安全に深刻な脅威を与えています。AI詐欺事件に関する見解と事実情報です。
関連推奨
Google AIチャットボット「Gemini」が暴走、人間に死を勧める
最近、Googleの人工知能チャットボット「Gemini」が異例の会話で大きな注目を集めています。ミシガン州の大学院生Vidhay Reddyさんが、このチャットボットを使って課題に取り組んでいた際に、衝撃的な脅迫を受けました。高齢者の課題と解決策について議論していた最中、AIチャットボットは突然口調を変え、不安を煽る反応を示しました。何気ない会話の中で、Reddyさんが「アメリカでは、ほぼ1」と質問した際に、事態は急変しました。
AI顔交換詐欺に注意!一枚の写真でリアルタイム動画顔交換が可能に:肉眼で見えるものが必ずしも真実とは限らない
中国中央電視台(CCTV)の報道によると、湖北省黄石市で最近摘発された事件で、犯罪組織がAI顔交換技術を利用してソーシャルアカウントのロックを解除し、転売して不正に利益を得ていた。被害者の王さんは、株のライブ配信チャンネルに参加した後、投資を誘導され、最終的に出金に問題が発生。相手のアカウントが詐欺容疑で凍結され、資金を引き出せなくなった。
Sora内測アカウントを299で販売?中国語インターネットの創造性はすべて詐欺に使われている?
OpenAIが発表したSoraテキスト生成ビデオモデルが人気を集める中、一部の人々がSoraの名を借りて有料講座の販売やアカウントの販売、さらには詐欺行為を行っています。これらの講座やアカウントは価格が高騰し、内容が虚偽であり、実際的な価値は全くありません。中にはSoraを実際に使用したこともないのに、人々の不安や情報格差を利用して利益を上げている販売者もいます。OpenAIは公式にSoraへのアクセス権をまだ公開しておらず、騙されないよう注意を促しています。Soraなど新技術に対しては、くれぐれもご注意ください。
オッペンハイマーの孫、人工知能による「地球生命」への脅威を警告する公開書簡に署名
J・ロバート・オッペンハイマーの孫が、人工知能が地球生命を脅かすと警告する公開書簡に署名しました。この公開書簡は、ネルソン・マンデラが設立した長老会議と未来生命研究所によって発表されました。書簡では、パンデミックや気候変動などの世界的脅威への緊急対応を訴え、長期的視点を持ったリーダーシップの重要性を強調しています。数百人が署名したこの書簡は、人工知能や核兵器などに関する問題に対し、世界的な協調努力によって深刻な危険性を回避するよう求めています。
AIによる新たなテクノロジー詐欺のリスクに警戒
AI技術の普及に伴い、犯罪者はAIを利用した新たな詐欺を企てており、国家金融監督総局は注意喚起を発表しました。"擬音"と"顔交換"の2種類のAI詐欺の手口に警戒を呼びかけており、"擬音"は他人の声を合成し、"顔交換"は他人の顔画像を偽造します。国民に対し警戒を強め、個人情報を保護し、不審な点があれば速やかに警察に通報するよう促しています。関係省庁は、規制を強化し、このような新たなネット詐欺犯罪を厳しく取り締まる必要があります。
