2月9日、有名なテクノロジーブログ「映画ハリケーン」のTimは最新動画を公開し、字節跳動が新たにリリースしたAI動画モデル「Seedance 2.0」を深く評価しました。このモデルは生成精度、カメラワークの連続性および音声と映像の同期において「業界レベル」のパフォーマンスを示しましたが、テスト中に見つかった2つの詳細が、AIデータ倫理に関する業界の深い懸念を引き起こしました。

「予知する」空間モデリングとボイスクローニング

Timは動画で2つの驚愕すべき現象を紹介しました：

  • 空間の盲点の正確な再現： 建物の正面画像のみをアップロードし、背景情報の提供が一切なかったにもかかわらず、Seedance 2.0は建物の裏側の実際の構造を正確に再現した回転カメラワークを生成しました。

  • 感知されないボイスシミュレーション： リファレンスの音声なしで、Timの顔の写真のみを使用して、本人の声質や口調に非常に似た音声を生成しました。

データ許可の謎：あなたの動画が「餌」に？

これらの発見に基づき、Timはこれはほぼ確実に映画ハリケーンがクラウド上で以前に公開した膨大な高精細素材が、字節跳動のトレーニングセットに含まれていることを示しています。彼は一度も許可の要求や報酬を受け取ったことはありませんが、関連する許可が複雑な利用規約の条項の中にすでに隠されている可能性があると考えています。

Timはさらにテストを行い、このモデルが「何同學」を含む多くのブロガーについても高い再現性を持っていることを確認しました。彼は警告しました。もし誰かのすべての形態と声データがAIによって100％模倣されると、生成されたコンテンツの真実性は家族でも区別がつかなくなるほどになります。この種の技術がもたらす潜在的なリスクに対して社会は深刻に警戒する必要があります。