最近、国連はスイス・ジュネーブでグローバルAI for Good（人工知能の善用）サミットを開催しました。アリババグループの技術戦略および発展部副部長である彭晋（ポン・ジン）氏は、中国が金融シーンにおける「ディープフェイク」対策に向けた技術成果を共有し、またアリババ数科が提供する東南アジアの銀行に対するディープフェイク攻撃の頻度がピーク時の10%から大幅に低下し4%まで下がったことを明らかにしました。識別精度は99.9%を維持しており、これは世界中のAIセキュリティガバナンスにおいて再利用可能な「中国のソリューション」を提供できるとされています。

QQ20250714-135221.png

アリババグループ技術戦略および発展部副部長彭晋がAI for Goodサミットで中国の技術成果を紹介

    グローバルAI for Good人工智能向善サミットは、国連傘下の国際電信連合（ITU）と40以上の国連関係機関が共同で開催し、スイス政府とも共同で主催しています。この会議は、人工知能が健康、気候、性別、包摂的繁栄、持続可能なインフラなど、他のグローバルな発展優先事項を促進することを目的としています。

    生成型AIツールの普及により、世界中で「AIで顔を変える」詐欺行為が多発しています。特に金融機関におけるユーザー登録や取引などのプロセスでは、身分偽造が銀行や決済プラットフォームにとって誤った判断をもたらし、直接的な経済的損失につながる可能性があります。彭晋氏によると、2024年には東南アジアの銀行におけるディープフェイク攻撃率はピーク時に10%に達し、つまり100回の人臉認証のうち10回が偽造顔でした。アリババ数科の製品技術支援により、アリババ数科が提供する東南アジアの銀行におけるディープフェイク攻撃率は4%まで低下しました。これらの銀行でのユーザー身分認証の遮断率は元の50%から3%にまで低下しました。業務効率化の一方で、識別精度は99.9%を維持しています。また、彭晋氏は、顔認識アルゴリズムの攻防は黒産業との対立ゲームであり、アルゴリズムは依然として「日単位」で継続的に更新され、新しい偽造手法に対抗し予測する必要があると述べました。

    現在、金融機関が直面している主要な「顔交換詐欺」の方法には2つのタイプがあります。1つは呈示攻撃で、カメラの前で偽造画像を提示して生体検出を回避しようとするものです。もう1つは注入攻撃で、システムレベルでカメラをハックし、予め録画した画像や動画をカメラで取得した顔画面に置き換えるものです。アリババ数科の子会社ZOLOZは、金融レベルの身分安全認証サービスを提供しており、端末側で環境セキュリティ検証を行い、アプリケーション側で動的ディープラーニングモデルを利用して生体特徴を正確に識別し、包括的なビジネスリスク管理戦略を構築しています。これにより、さまざまな攻撃に対して効果的に防御できます。現在、ZOLOZの関連技術製品は世界25カ国以上で導入されており、海外のデジタル化の推進に貢献しています。

    以前には、アリババ数科は世界的な人工知能トップカンファレンスIJCAI2025で、180万を超えるマルチモーダルディープフェイクデータセットを公開し、88種類の偽造技術を含んでおり、業界が検証可能で追跡可能なAIセキュリティ研究を推進しています。