スタートアップ企業のReality Defenderは、合成メディアの検出と処理に特化し、企業や政府機関に様々なツールを提供する1500万ドルの資金調達に成功したと発表しました。
CEOによると、同社は既に数百万件のディープフェイクメディアを検出し、説明可能なAI機能とリアルタイムのディープフェイク検知ツールをリリースし、合成メディアの課題に対処しています。

スタートアップ企業のReality Defenderは、合成メディアの検出と処理に特化し、企業や政府機関に様々なツールを提供する1500万ドルの資金調達に成功したと発表しました。
CEOによると、同社は既に数百万件のディープフェイクメディアを検出し、説明可能なAI機能とリアルタイムのディープフェイク検知ツールをリリースし、合成メディアの課題に対処しています。
マスク氏のxAI社がAIチャットボット「Grok」によるディープフェイクポルノ画像生成で提訴されたが、裁判所は匿名原告4名に実名での訴訟を要求。原告側は二次被害を懸念し強く反対。現在「サウスカロライナ州Doe」等の仮名で審理中。プライバシーと法の均衡が争点に。....
大規模言語モデルはサイバーセキュリティ分野における推論能力に厳しいテストを受けています。セキュリティ研究者であるKasra Rahjerdi氏は、コアな脆弱性を含む図書レビューAPKを構築し、主流の大規模言語モデルを模擬ハッキングテストしました。このテストでは、各モデルがセキュリティ推論と脆弱性の利用において実際にどの程度の性能を持っているかを明らかにしています。テストは2時間の制限時間、1回あたり予算が10ドルで行われ、複雑な論理的チャレンジにおける各モデルの実際のパフォーマンスが明確に示されています。
グーグルは、安卓システムに「偽電話検出」機能を導入し、増加するAIディープフェイク音声詐欺に対応する。この機能は、知人を装った電話詐欺を識別・ブロックすることを目的としており、不正な人物が技術を用いて発信元番号を改変し、信頼関係を偽造する新しい詐欺手段に対抗するため、ユーザーにシステムレベルの詐欺防止対策を提供する。
Googleは、Androidシステムに「エンドツーエンドデジタルハンドシェイク」技術を用いた偽電話検出機能を導入し、AIによる音声ディープフェイク詐欺を防止します。2026年6月よりAndroid 12以降の端末にアップデートされ、Pixelで先行展開されます。これは、詐欺犯がAIで声をクローンしてなりすます脅威に対抗するためです。....
最近、ハッカーがChatGPTやClaudeなどのAIツールの公式コンテンツ共有やプラグイン機能を悪用し、検索エンジンの最上位広告にフィッシングリンクを仕掛けている。悪意のあるページのルートドメインが公式と完全一致するため、ユーザーは見分けがつかず、悪意のあるインストールパッケージのダウンロード成功率が上昇。高トラフィックのAIサービスを狙った隠密な手口で、警戒が必要。....