スタートアップ企業のReality Defenderは、合成メディアの検出と処理に特化し、企業や政府機関に様々なツールを提供する1500万ドルの資金調達に成功したと発表しました。
CEOによると、同社は既に数百万件のディープフェイクメディアを検出し、説明可能なAI機能とリアルタイムのディープフェイク検知ツールをリリースし、合成メディアの課題に対処しています。

スタートアップ企業のReality Defenderは、合成メディアの検出と処理に特化し、企業や政府機関に様々なツールを提供する1500万ドルの資金調達に成功したと発表しました。
CEOによると、同社は既に数百万件のディープフェイクメディアを検出し、説明可能なAI機能とリアルタイムのディープフェイク検知ツールをリリースし、合成メディアの課題に対処しています。
最近、Google GeminiやOpenAIのChatGPTなどの生成AIツールが悪意のある方法で利用されていることが明らかにされた。ユーザーは特定のヒントワードを使ってセキュリティチェックを回避し、通常の写真にある女性を露出したディープフェイク画像に変更していた。関連するチュートリアルはRedditなどのプラットフォームで広まり、AIのセキュリティの境界に対する懸念を引き起こした。
グーグルDeepMindは、Gemma3言語モデルの2.7億~270億パラメータの各層における情報処理を深く分析するためのオープンな解釈性ツールキットであるGemma Scope2を発表しました。このツールは、AIセキュリティや対応チームがモデル内の特徴を追跡し、「脱出」や幻覚、不適切な行動などの問題に対処するのを支援します。
GoogleはGeminiアプリに新機能を追加。動画をアップロードすると、Google AIで作成・編集されたかどうかを検出可能。SynthID透かし技術を活用し、AIコンテンツの透明性向上と偽情報対策を強化。....
赤帽はAI企業のChatterbox Labsを買収し、企業向けAIの展開を強化しました。同社はAIモデルのテストと生成型AIセキュリティに注力しており、AIMIプラットフォームによりAIリスクを数値化し、モデルの行動を管理できます。これは、昨年Neural Magicを買収した後、赤帽がAI分野で行った重要な投資の一つです。
AIによる著名人偽装ライブ販売の取り締まり強化。生成AIの顔・声偽造で消費者誤認誘導、虚偽宣伝や権利侵害の懸念。違反アカウント「百货超市小店」「娜」など摘発。....