スタートアップ企業のReality Defenderは、合成メディアの検出と処理に特化し、企業や政府機関に様々なツールを提供する1500万ドルの資金調達に成功したと発表しました。
CEOによると、同社は既に数百万件のディープフェイクメディアを検出し、説明可能なAI機能とリアルタイムのディープフェイク検知ツールをリリースし、合成メディアの課題に対処しています。

スタートアップ企業のReality Defenderは、合成メディアの検出と処理に特化し、企業や政府機関に様々なツールを提供する1500万ドルの資金調達に成功したと発表しました。
CEOによると、同社は既に数百万件のディープフェイクメディアを検出し、説明可能なAI機能とリアルタイムのディープフェイク検知ツールをリリースし、合成メディアの課題に対処しています。
エロン・マスクが経営するXAIC社は、Grokチャットボットが未成年者の露骨な内容を生成したとして、3人の青少年によって集団訴訟を受けた。原告は、会社がその「刺激モード」が違法なコンテンツを生み出す可能性を知っていたにもかかわらず、十分なセキュリティテストを行わず、設計上の欠陥があると主張している。
AIによるディープフェイク音声詐欺が急増し、模倣された知人音声の電話が深刻な脅威となっている。米国回答者の約25%が1年以内に受信経験あり、24%は真偽の判別が困難と回答。....
OpenAIがAIセキュリティ強化のため、2024年設立のスタートアップPromptfooを買収。同社はAI評価・安全に特化し、23名体制で35万開発者を擁し、評価額は8600万ドル。OpenAIのエージェントセキュリティ向上に貢献。....
OpenAIがPromptfooを買収し、AI開発の早期段階で自動化ツールを用いて誤りや悪意ある誘導を検出・防止し、AI技術の信頼性と安全性を強化します。....
マスク氏、法廷でOpenAIのセキュリティ脆弱性を指摘し、自社xAIのGrokの安全性を主張。ChatGPTと自殺事件の関連性に言及。2023年3月のAI開発一時停止公開信を巡る審理が焦点。....