小紅書はAI技術の乱用に関する治理公告を発表しました。公告では、清らかなネット空間を維持し、積極的で健康的な、そして文明的かつ調和の取れたコミュニティ環境を作り上げることを目指し、小紅書は中央インターネット情報办公室および上海市インターネット情報办公室が実施する「清朗・AI技術乱用の整備」特別行動に積極的に応じています。特に以下の違法行為に焦点を当てて、整理整頓を行っています：AIを利用して大量に虚偽のコンテンツを生産してフォロワーを増やす行為、AIを使ってチャンネルを立ち上げて商品を宣伝販売する行為、AIを使ったチャンネル立ち上げのコースを販売する行為、AIアカウントの販売などです。これによりプラットフォームとしての責任を果たし、違法問題を深く処理します。

この段階での具体的な整備状況は次の通りです：「AI生成の卑猥または珍妙な動画の利用」、「AI生成の架空の外国の幼児教育専門家による育児コンテンツの提供」、「AI動画アカウントの販売マニュアル」、「AIアカウントの秘訣の伝授」、「プラットフォームのAIラベル回避を促す行為」、「AI仮想アカウントの譲渡や販売」など、さまざまな違法コンテンツについて、徹底的な取り締まりとクリーンアップを行いました。結果として、合計265件の違法コンテンツを削除し、@IU干跨境などの13名の違法ユーザーに対して発言禁止処分を実施しました。また、ネットワークアカウントの譲渡・販売・賃貸行為を厳しく取り締まり、AI生成コンテンツのモニタリングと識別を強化しています。

今後も、小紅書はAI生成に関連するさまざまな違法行為への取り組みを一層強化し、プラットフォーム内のAI関連コンテンツの管理能力を継続的に向上させ、例えばAI識別機能の構築なども進めます。皆さまには、小紅薯たちにもぜひプラットフォームの共治に参加いただき、AIを利用した創作を合理的かつ合法的に行いながら、AI生成コンテンツに対する明確な表示・声明を行うことを積極的に推奨します。「自主声明」欄で「ノートにAI合成コンテンツが含まれている」と選択することで、ともに清らかで秩序があり健康的なネット環境を作りましょう。

QQ_1747040550338.png