中央ネットワーク情報管理弁公室は最近、「クリアン・AIアプリの混乱を整頓する」専門行動の第2段階における最新成果を発表しました。人工知能技術を利用して偽情報を作成・公開し、暴力的で低俗なコンテンツを広め、他人を偽装・模倣し、未成年者の権益を侵害するなどの問題に焦点を当てて深く対応しました。現在までに全国で違法・不適切な情報を561万件以上クリーンアップし、違法アカウント49,000個以上を処理し、違法なウェブサイトやアプリケーションを2,400個以上処置し、AI技術の乱用や悪意的な操作の傾向を全面的に抑えることができました。

今回の専門行動において、各地のインターネット情報管理部門は自身の実情に基づいて精密かつ効果的な対策を講じました。北京では主要なプラットフォームに内容審査戦略のアップグレードを指導し、不正なコンテンツの新しい変種の識別と処置能力を大幅に向上させました。上海では企業に自主的な点検と是正を促し、AIアプリの「知識普及パック」を提供して一般市民の警戒意識を高めるように誘導しました。浙江では地元の主要なプラットフォームに対して「一つの企業ごとの対策」を実施し、法に基づいて問題が顕著なAIアプリを処理しました。広東では主要なプラットフォームの作業例会を開催し、複数のアプリの不正問題についてポイント対ポイントで改善を促しました。一方で、抖音（ドウイン）、快手（カースー）、微博（ウェイボー）、騰訊（テンセント）、百度（バイドゥ）、哔哩哔哩（ビリビリ）、小红书（シャオホンシュ）、知乎（ズーリー）、豆瓣（ドワン）および淘宝（タオバオ）などの主要プラットフォームは技術の強化を継続し、多モダル認識モデルの最適化、動的の人間顔と声紋データベースの拡充、リアルタイムの顔認識管理システムの導入などの手段により、不正コンテンツのスマート検出効率を大幅に向上させました。その間に46回の関連する対策公告を発表しました。

ソースの防止において、豆包（ドウバオ）、元宝（ユアンバオ）、千問（チアンワン）、文心一言（ウェンシンイワン）などの大規模なモデルプラットフォームは、元のテキストコンテンツの監督メカニズムを厳しく管理し、AIによって生成・合成されたコンテンツの表示要件を全面的に実施し、違法・不適切な情報の生成と拡散を源流で防ぎました。同時に、华为（ファーウェイ）、小米（シャオミ）、OPPO、vivoなどの主要なアプリストアも開発者准入規範と配信基準をさらに厳格にし、在庫アプリを頻繁に再検査し、多くの違法アプリをデータベースの外に遮断することに成功しました。

一般大衆が混乱の表現形式を明確に理解できるようにするために、公式にはいくつかの代表的な違法事例を明らかにしました。そのうち、一部のアカウントはAI技術を使って『三国演義』『西遊記』などの古典名作を「魔改（マッコウ）」し、重要な人物のキャラクターを悪意を持って逆転させ、低品質で奇妙な物語を虚構して注目を集めています。このようなコンテンツはインターネット情報管理部門によって「デジタルゴミ」と表現されています。一部のアカウントはAIで偽の災害現場と救助映像を作成し、誤った社会的なトレンドを捏造したり、AIのデジタル人間を使って偽の宣伝販売を行い、高齢者を誤導しています。

また、一部のアカウントはAIの「顔入れ替え」および「声入れ替え」技術を使い、有名な人物のイメージを偽って低俗なダンスや抱擁・キスなどの動画を作成してマーケティングで利益を得ています。さらに、いくつかのプラットフォームは異常で恐ろしい、暴力的で低俗なコンテンツを大量に公開し、未成年者を対象として妊娠や喧嘩などの虚偽のシナリオを制作し、暴力的・恐怖的またはソフトポルノを含んだ「毒アニメ」や児童向けの「邪典」動画を拡散し、未成年者のイメージを深刻に傷つけていたり、悪戯していたりします。さらに、一部の不正な人物はAI「ハブ」ソフトを使用して本物の人間のようにアカウントを運営し、同質化された文章を生成してネットのウォーターマンとなること、あるいは一部のスマートエージェントプラットフォームのカバー画像とチャット内容には性的な不快感を含むものがある可能性があり、関係機関はこれに対し警告、罰金、削除または停止などの厳重な措置を取っています。