2023年9月、AI技術の進歩により、ディープフェイクポルノアプリの利用者が2400万人に急増しました。ソーシャルメディア広告がその増加を2400%も加速させ、懸念が高まっています。技術の発展に伴い、一般の人々も標的となり、法的問題も発生しています。TikTokやMeta Platformsなどの一部のプラットフォームは、キーワードのブロックなどの対策を講じています。
関連推奨
YouTubeが顔や声のパターン認識技術を公開 アクター界にデジタルダブルの防衛戦が始まる
YouTubeはAI偽造動画対策として、顔・声紋認識技術をエンタメ業界に開放。コンテンツID方式による本人確認で、デジタル著作権保護の新基準を構築。....
Apr 22, 2026
156.4k
アリババグループがコンピュータビジョンの頂級会議で優勝 AIGC検出において実戦レベルの飛躍を達成
アリババグループはCVPR 2026 NTIREチャレンジ大会で、「複雑な現実的なシナリオにおけるロバスト性の高いサンプルテスト」と「顔認識の異常検出」の2つの分野で優勝しました。この研究成果は、支払い、コンテンツ監査、金融認証などの場面でのリスク識別能力を向上させる助けとなります。ディープフェイクやAIGCの乱用が増加し、検出モデルが現実的なシナリオやマルチモーダル大規模モデルの進化の中で正確性が不足しているという課題に直面する中、今回の突破は対応するための重要な技術的支援となります。
Apr 10, 2026
300.7k
ドイツの市民がAIによるディープフェイクのリスクに懸念を抱いており、9割以上が懸念している
ドイツの世論調査によると、回答者の90%以上がAIディープフェイクを懸念しており、半数以上がリスクが「非常に高い」と考えている。主な懸念は、AI生成コンテンツの識別が困難な点にある。....
Apr 2, 2026
284.7k
マスクのXAICがGrokにより違法画像を生成したとして青少年から提訴される
エロン・マスクが経営するXAIC社は、Grokチャットボットが未成年者の露骨な内容を生成したとして、3人の青少年によって集団訴訟を受けた。原告は、会社がその「刺激モード」が違法なコンテンツを生み出す可能性を知っていたにもかかわらず、十分なセキュリティテストを行わず、設計上の欠陥があると主張している。
Mar 17, 2026
173.3k
多国がAI音声詐欺に警鐘:深層偽造技術で知り合いの声さえ本物か判別不能
AIによるディープフェイク音声詐欺が急増し、模倣された知人音声の電話が深刻な脅威となっている。米国回答者の約25%が1年以内に受信経験あり、24%は真偽の判別が困難と回答。....
Mar 16, 2026
143.4k
