専門家は、ディープフェイク検出ツールの開発において、肌の色が濃い人々への偏りを避けるよう呼びかけています。現在のほとんどのディープフェイク検出器は、トレーニングデータセットに依存した学習戦略に基づいていますが、これらの方法は、肌の色が濃い人々には必ずしも有効ではありません。偏りによって少数派が詐欺、詐取、虚偽情報による圧力をより強く受けることを懸念し、専門家は、この問題を解決するために、より包括的なトレーニングセットと測定方法を構築するよう求めています。
関連推奨
YouTubeの発表会でAI動画生成や顔認識による保護機能などの注目機能が登場
YouTubeは世界中のクリエイターに向けて一連の注目機能を発表しました。今週開催された「Made on YouTube」年次イベントにおいて、プラットフォームはStudioツールのアップグレード、ライブ配信機能の強化、Shortsの革新、収益化チャネルの拡大など、包括的なアップデートを発表しました。Studioツールは重要なアップグレードを経て、去年の少数のクリエイターでのテストから公開テスト段階へと進みました。現在、クリエイターは自身の顔写真を使用した動画を検出・管理し、削除するためのラベリングができるようになりました。
マスクのGrokに新機能が登場し、ユーザーが6秒間のAI動画を生成できるようになりました
xAI社がGrok AIの新機能「Imagine」を発表。6秒の音声付き動画生成が可能だが、露骨な内容を含むためディープフェイク懸念が高まる。10月正式リリース予定。....
カリフォルニア州、AIディープフェイクコンテンツを厳しく取り締まる:新法案で全面強化!
人工知能技術の急速な発展に伴い、ディープフェイクコンテンツが社会的に大きな注目を集めています。この新たな問題に対処するため、カリフォルニア州は新年早々、AI生成のディープフェイクコンテンツの規制強化を目的とした一連の新しい法律・規制を施行しました。これらの法律は、ソーシャルメディアプラットフォーム、コンテンツ制作者、関連業界に影響を与え、AI技術の応用に関する規制が新たな段階に入ったことを示しています。画像出典:AI生成画像、画像ライセンス提供者Midjourney。重要な法律の一つは、対象となる…
AIによる「張文宏」なりすましライブコマース、消費者を誤導
最近、ネット上で張文宏医師になりすました人物がプロテインバーを販売するライブコマースの動画が拡散され、大きな注目を集めています。多くのネットユーザーが「張文宏医師は本当にプロテインバーを販売しているのか?」と疑問を抱いています。さらに懸念されるのは、高齢者の視聴者の一部が動画を信じてしまい、商品を注文し、ソーシャルメディアで情報を拡散していることです。報道機関の調査によると、動画の張文宏医師はAI技術を用いたディープフェイクであることが判明しました。これに対し、張文宏医師は、このようななりすまし販売アカウントは一つだけではないと声明を発表しました。
Metaが反撃開始!AIビデオ透かしツール「Video Seal」をオープンソース化し、ディープフェイクの蔓延に対抗
ディープフェイクは今やあらゆる場所に浸透しています。生成AIの普及に伴い、オンライン上の偽情報は爆発的に増加しました。認証プラットフォームSumsubの統計によると、2023年から2024年にかけて、世界のディープフェイク数は4倍に増加。2024年には、ディープフェイクが不正行為全体の7%を占め、なりすまし、アカウント乗っ取りから高度なソーシャルエンジニアリング攻撃まで、あらゆるものにその影が見られます。Metaはディープフェイクに対抗するため、
