最近、ネット上で頻繁に発生しているAI技術の悪用に関する問題に対し、小紅書（Xiaohongshu）のシュジエン（薯管家）は昨日、公式公告を発表し、投稿者がサイト内のAIで生成・合成されたコンテンツに対して主動的に識別を行うことを正式に求めました。

image.png

小紅書の公告では、プラットフォームが最近複数の通報を受けたと述べています。その内容は、AI技術を利用して公的人物の姿を模倣し、偽造動画を作成する行為に関連しています。このようなコンテンツは、他人の権利を侵害するだけでなく、AIで生成されていることを明記しない場合、視聴者を誤解させ、コミュニティの信頼の基盤を損なう恐れがあります。

新規則の核心的な要件：

  • 義務的な識別：関連する法律および規制に基づき、投稿者がAIで生成または合成されたコンテンツを公開する際には、公開時に主動的に声明を選択しなければなりません。

  • アルゴリズムの導入：プラットフォームは検出ツールを通じて疑似AIコンテンツを識別します。投稿者が主動的に声明していない場合、プラットフォームは強制的にAI識別を追加し、このコンテンツに対して**配信制限（流量制限）**という処罰を行います。

  • 厳格な対応：偽造・模倣情報の作成、悪意ある「魔改」（編集）されたクラシック作品の掲載、不良な価値観の宣伝、およびAI識別の除去方法を教えるチュートリアルの投稿などの行為に対して、プラットフォームはアカウントの停止など厳しい対応を行います。

今回の取り組みは、小紅書がAIの識別と管理メカニズムをさらに整え、AI創作が急増する中で、コミュニティのコンテンツの真実性と合規性を維持しようとするものであることを示しています。