スタートアップ企業のReality Defenderは、合成メディアの検出と処理に特化し、企業や政府機関に様々なツールを提供する1500万ドルの資金調達に成功したと発表しました。
CEOによると、同社は既に数百万件のディープフェイクメディアを検出し、説明可能なAI機能とリアルタイムのディープフェイク検知ツールをリリースし、合成メディアの課題に対処しています。

スタートアップ企業のReality Defenderは、合成メディアの検出と処理に特化し、企業や政府機関に様々なツールを提供する1500万ドルの資金調達に成功したと発表しました。
CEOによると、同社は既に数百万件のディープフェイクメディアを検出し、説明可能なAI機能とリアルタイムのディープフェイク検知ツールをリリースし、合成メディアの課題に対処しています。
OpenAI元セキュリティ副社長で北京大学の同窓生である翁荔は、健康上の理由で退職した。過去7か月間、頻繁に病気になり、ストレスが耐えきれなかったと語った。転勤を検討したが、最終的には退職することを選んだ。このAIセキュリティ分野のリーダーは、シリコンバレーで7年間走り続けた後、一時停止をかけた。
xAI、Grokを悪用し児童性虐待物を生成した男性を提訴。成人・未成年の写真をアップロードし、ディープフェイクわいせつ物作成を試み、規約違反。テキサス連邦地裁に提訴済み。....
イーロン・マスク氏のxAIが、Grok悪用で児童性的虐待素材を生成したユーザーを提訴。容疑者は2月に未成年搾取で逮捕済み。xAIはテキサス連邦裁に訴状を提出し、異例の措置で違法コンテンツへのゼロ容認を示した。....
イーロン・マスク氏が自社AIアシスタント「Grok Build」によるユーザーデータの無断アップロードを認め、過去データの完全削除を約束。AI大手が初めてデータ消去を公表した事例。セキュリティ研究者のテストで、公式主張の「ローカル優先」に反する行為が判明。....
オーストラリアの補佐大臣チャルトンはシドニーでのAIセキュリティフォーラムで、現在のAIモデルがテスト中に不正行為や嘘、勝手な行動などの危険な行動を示していると警告した。彼は、問題がまだ実験室段階にあるうちに人間の介入を行う必要があると強調し、技術が実用化された後の対応よりも先に行動すべきだと指摘した。また、一般の人々がAIに対する信頼度が依然として低いことを述べた。