生成AI技術の急速な発展により、AIで作成された「偽の顔」は本物と区別がつかないほどになりました。しかし、『Royal Society Open Science』に掲載された最新の研究によると、AIによる偽造顔を識別する能力は、非常に短い時間のトレーニングによって大きく向上することがわかりました。

image.png

リーズ大学やレディング大学など複数の大学が共同で行ったこの研究では、664人の参加者がStyleGAN3システムで作成された顔画像を識別するテストを行いました。実験結果では、訓練を受けない状態では一般人の識別精度はわずか31%にとどまり、それなりに才能がある「スーパー顔識別者」でも正確率は41%にとどまりました。これは、最高度なAI技術に直面した際には、人間の直感が信頼できないことを示しています。

驚くべきことに、研究チームは、参加者に対して約5分間の視覚的なトレーニングを行うことで、識別効果が大幅に改善することを発見しました。歯並びの異常、髪の生え際の不自然さ、耳や装飾品の非対称性などのAIの典型的な破綻を見つける方法を学んだ後、スーパー顔識別者の正解率は64%に上昇し、一般の人も51%まで向上しました。

リーズ大学のエイリド・ノイズ博士は、「AI画像作成のハードルが低下し、隠蔽性が高まっているため、有効な識別の方法を開発することがセキュリティ分野において重要な課題となっています。現在、AIで合成された顔は、ソーシャルアカウントの偽造や偽造証明書の作成、さらには本人確認システムの回避に使われています。研究チームは今後、このトレーニング効果の持続性をさらに調査し、人間の視覚的優位性とAIの自動検出ツールを組み合わせて、ますます深刻化するデジタルセキュリティの課題に対応しようとしています。

論文リンク:https://dx.doi.org/10.1098/rsos.250921

ポイント:

  • 🕵️‍♂️ 破綻を見抜く方法: AIで生成された顔は、歯並び、髪の生え際の端、両耳の対称性などの細部に間違いを露出することがあります。

  • ⏱️ 短期間での効果: 5分程度の専門的な学習だけで、一般人および専門の顔識別者にとってのAI画像の識別能力が大幅に向上します。

  • 🛡️ セキュリティリスクへの対応: この研究は、AIの偽顔を使って行われるソーシャルスカムや本人確認の回避などの現実的なセキュリティ上の危険を防ぐことを目的としています。