スタートアップ企業のReality Defenderは、合成メディアの検出と処理に特化し、企業や政府機関に様々なツールを提供する1500万ドルの資金調達に成功したと発表しました。
CEOによると、同社は既に数百万件のディープフェイクメディアを検出し、説明可能なAI機能とリアルタイムのディープフェイク検知ツールをリリースし、合成メディアの課題に対処しています。

スタートアップ企業のReality Defenderは、合成メディアの検出と処理に特化し、企業や政府機関に様々なツールを提供する1500万ドルの資金調達に成功したと発表しました。
CEOによると、同社は既に数百万件のディープフェイクメディアを検出し、説明可能なAI機能とリアルタイムのディープフェイク検知ツールをリリースし、合成メディアの課題に対処しています。
ChatGPTなどの大規模言語モデルは、わずか250件の汚染データでバックドアを埋め込まれ、応答を改変される脆弱性が判明。AIセキュリティの脆弱性が浮き彫りに。....
研究によると、250の毒入りファイルで大規模言語モデルにバックドアを埋め込める。攻撃効果はモデルサイズと無関係で、6億~130億パラメータモデルで確認。クリーンなデータで訓練した大モデルでも同数の毒入り文書が必要で、従来の認識を覆す発見。....
阿里雲通義チームが9月28日にQwen3Guardを発表。Qwenファミリー初のセキュリティモデルで、AIインタラクションの安全性向上を目的とし、潜在リスクを正確に識別。....
YouTubeは世界中のクリエイターに向けて一連の注目機能を発表しました。今週開催された「Made on YouTube」年次イベントにおいて、プラットフォームはStudioツールのアップグレード、ライブ配信機能の強化、Shortsの革新、収益化チャネルの拡大など、包括的なアップデートを発表しました。Studioツールは重要なアップグレードを経て、去年の少数のクリエイターでのテストから公開テスト段階へと進みました。現在、クリエイターは自身の顔写真を使用した動画を検出・管理し、削除するためのラベリングができるようになりました。
華為と浙江大学が共同で、国内初の昇騰千卡プラットフォームを基盤とした大規模モデル「DeepSeek-R1-Safe」を発表。AIの安全性と性能を向上させる革新的なフレームワークを構築。....