Techradarの最新レポートによると、AIディープフェイク（Deepfake）音声を活用した新たな詐欺が世界中で急増している。米国、英国、カナダ、フランス、ドイツ、スペインの6か国で1万2000人以上の消費者を対象に実施された調査では、このように親しい人の声を模倣した着信が深刻な社会的脅威となっていることが明らかになった。

調査結果では、アメリカの約4分の1の回答者が過去1年間にこのようなAI偽造の着信を受けたと述べている。さらに深刻なことに、24％の人が実際に電話の中の声が人間なのかAIなのか区別がつかないという。

詐欺師たちは低コストな生成AIツールを使って、声のコピー技術を「武器化」し、被害者の家族や信頼できる連絡先を装って詐欺を行う。

レポートでは特に、55歳以上の高齢者層に対してこの種の詐欺が最も大きな影響を与えていると指摘されている。この年代の人々は技術的な偽装を識別する能力が比較的弱いため、一人当たりの経済的損失額は1298ドルに達しており、若い被害者の3倍に上っている。現在、このような詐欺の数は年間16％の複合成長率で継続して増加しており、状況は楽観できない。

ますます深刻化する脅威に対応するため、通信事業者の役割が注目されている。多くの回答者は詐欺犯が現在の技術闘争において優位に立っていると考えており、政府がより厳しい規制を導入することを求める声が上がっている。セキュリティ専門家は、防御が非常に難しいAI音声クローンに対処するため、個人による識別のほかにも、通信事業者が「AIシールド」システムを迅速に展開し、技術的手段によって不正に合成された音声をフィルタリングする必要があると強調している。これは制御不能な「AI軍備競争」に対応するためである。