国家インターネット情報弁公室が「人工知能生成合成コンテンツ識別方法（意見募集稿）」を発表しました。この方法は、『中華人民共和国ネットワーク安全法』、『インターネット情報サービスアルゴリズム推奨管理規定』、『インターネット情報サービス深度合成管理規定』、『生成式人工知能サービス管理暫行方法』などの法律・法规に基づいて制定されており、意見のフィードバック期限は2024年10月14日です。

この方法は、人工知能によって生成・合成されたテキスト、画像、音声、動画などの情報を網羅する人工知能生成合成コンテンツの定義を明確にし、明示的な識別と暗示的な識別の2つの形式を区別しています。明示的な識別とは、コンテンツまたはインタフェースに明確に表示される識別であり、暗示的な識別とは、技術的手段によってコンテンツファイルデータに追加され、ユーザーが容易に認識できない識別です。

この方法は、サービス提供者は生成合成サービスを提供する際に、コンテンツの種類に応じて適切な場所に明示的な識別を追加し、ファイルのメタデータに暗示的な識別を追加する必要があると規定しています。さらに、ネットワーク情報コンテンツ伝播プラットフォームサービス提供者に対し、ファイルメタデータ内の暗示的な識別を検証すること、および公開コンテンツ周辺にヒントとなる識別を追加することを含め、生成合成コンテンツの伝播を規範化する措置を講じるよう求めています。

微信截图_20240914110802.png

以下は意見募集稿原文です:

第一条　人工知能の健全な発展を促進し、人工知能生成合成コンテンツの識別を規範化し、市民、法人その他の組織の合法的な権利と利益を保護し、社会公共の利益を維持するために、『中華人民共和国ネットワーク安全法』、『インターネット情報サービスアルゴリズム推奨管理規定』、『インターネット情報サービス深度合成管理規定』、『生成式人工知能サービス管理暫行方法』などの法律、行政法规および部門規章に基づき、本方法を制定する。

第二条　『インターネット情報サービスアルゴリズム推奨管理規定』、『インターネット情報サービス深度合成管理規定』、『生成式人工知能サービス管理暫行方法』の規定に該当するネットワーク情報サービス提供者（以下「サービス提供者」という）が人工知能生成合成コンテンツの識別を行う場合は、本方法を適用する。

業界団体、企業、教育・研究機関、公共文化機関、関連専門機関などが人工知能生成合成技術を研究・応用し、国内の一般ユーザーにサービスを提供していない場合は、本方法の規定は適用されない。

第三条　人工知能生成合成コンテンツとは、人工知能技術を用いて作成、生成、合成されたテキスト、画像、音声、動画などの情報のことである。

人工知能生成合成コンテンツの識別には、明示的な識別と暗示的な識別が含まれる。

明示的な識別とは、生成合成コンテンツまたはインタラクションシーンのインターフェースに追加され、文字、音声、図形などの方法で表示され、ユーザーが明確に認識できる識別のことである。

暗示的な識別とは、技術的な手段を用いて生成合成コンテンツのファイルデータに追加され、ユーザーが容易に認識できない識別のことである。

第四条　サービス提供者が提供する生成合成サービスが、『インターネット情報サービス深度合成管理規定』第十七条第一項に該当する場合は、以下の要件に従って生成合成コンテンツに明示的な識別を追加しなければならない。

（一）テキストの先頭、末尾、または適切な箇所にテキストのヒントまたは共通記号のヒントなどの識別を追加するか、インタラクションシーンのインターフェースまたはテキスト周辺に目立つヒントの識別を追加する。

（二）音声の先頭、末尾、または適切な箇所に音声のヒントまたは音声のリズムのヒントなどの識別を追加するか、インタラクションシーンのインターフェースに目立つヒントの識別を追加する。

（三）画像の適切な箇所に目立つヒントの識別を追加する。

（四）動画の開始画面と動画再生周辺の適切な箇所に目立つヒントの識別を追加し、動画の末尾と中間部の適切な箇所に目立つヒントの識別を追加することができる。

（五）仮想シーンを表示する場合は、開始画面の適切な箇所に目立つヒントの識別を追加し、仮想シーンの継続的なサービス過程の適切な箇所に目立つヒントの識別を追加することができる。

（六）その他の生成合成サービスシーンでは、それぞれのアプリケーションの特徴に応じて、目立つヒント効果を持つ明示的な識別を追加する必要がある。

サービス提供者は、生成合成コンテンツのダウンロード、コピー、エクスポートなどの方法を提供する際に、ファイルに要件を満たす明示的な識別が含まれていることを確認しなければならない。

第五条　サービス提供者は、『インターネット情報サービス深度合成管理規定』第十六条の規定に従って、生成合成コンテンツのファイルメタデータに暗示的な識別を追加しなければならない。暗示的な識別には、生成合成コンテンツの属性情報、サービス提供者の名称またはコード、コンテンツ番号などの制作要素情報が含まれる。

サービス提供者は、生成合成コンテンツにデジタルウォーターマークなどの形式の暗示的な識別を追加することを推奨する。

ファイルメタデータとは、特定のコード形式に従ってファイルヘッダーに埋め込まれた記述情報であり、ファイルのソース、属性、用途、著作権などの情報内容を記録するために使用される。

第六条　ネットワーク情報コンテンツ伝播プラットフォームサービスを提供するサービス提供者は、措置を講じて生成合成コンテンツの伝播活動を規範化しなければならない。

（一）ファイルメタデータに暗示的な識別が含まれているかどうかを検証し、暗示的な識別が含まれている場合は、適切な方法で公開コンテンツ周辺に目立つヒントの識別を追加し、ユーザーにそのコンテンツが生成合成コンテンツであることを明確に知らせる。

（二）ファイルメタデータで暗示的な識別が検証されていないが、ユーザーが生成合成コンテンツであると宣言している場合は、適切な方法で公開コンテンツ周辺に目立つヒントの識別を追加し、ユーザーにそのコンテンツが生成合成コンテンツである可能性があることを知らせる。

（三）ファイルメタデータで暗示的な識別が検証されておらず、ユーザーも生成合成コンテンツであると宣言していないが、ネットワーク情報コンテンツ伝播プラットフォームサービスを提供するサービス提供者が明示的な識別またはその他の生成合成の痕跡を検出した場合は、疑わしい生成合成コンテンツとして識別し、適切な方法で公開コンテンツ周辺に目立つヒントの識別を追加し、ユーザーにそのコンテンツが疑わしい生成合成コンテンツである可能性があることを知らせる。

（四）確実な、可能性のある、および疑わしい生成合成コンテンツについては、ファイルメタデータに生成合成コンテンツの属性情報、伝播プラットフォームの名称またはコード、コンテンツ番号などの伝播要素情報を追加する。

（五）必要な識別機能を提供し、ユーザーに公開コンテンツに生成合成コンテンツが含まれているかどうかを積極的に宣言するよう促す。

第七条　インターネットアプリケーション配信プラットフォームは、アプリケーションの登録またはオンライン審査時に、サービス提供者が要求どおりに生成合成コンテンツ識別機能を提供しているかどうかを検証しなければならない。

第八条　サービス提供者は、ユーザーサービス契約において、生成合成コンテンツの識別方法、スタイルなどの規範的な内容を明確に説明し、ユーザーに関連する識別管理要件を注意深く読んで理解するよう促さなければならない。

第九条　ユーザーがサービス提供者に対して明示的な識別を追加していない生成合成コンテンツの提供を要求する場合は、ユーザー契約を通じてユーザーの識別義務と使用責任を明確にした上で、明示的な識別を含まない生成合成コンテンツを提供し、関連するログを6ヶ月以上保存する。

第十条　ユーザーは、ネットワーク情報コンテンツ伝播プラットフォームサービスを提供するサービス提供者に生成合成コンテンツをアップロードする際に、積極的に宣言し、プラットフォームが提供する識別機能を使用して識別しなければならない。

いかなる組織および個人も、本方法で規定されている生成合成コンテンツの識別を悪意を持って削除、改ざん、偽造、隠蔽してはならず、他人が上記の悪意のある行為を行うためのツールまたはサービスを提供してはならず、不正な識別手段によって他人の合法的な権利と利益を損害してはならない。

第十一条　サービス提供者は、関連する強制的な国家規格の要求に従って識別しなければならない。

第十二条　サービス提供者は、アルゴリズムの登録、安全評価などの手続きを行う際に、本方法に従って生成合成コンテンツの識別に関する資料を提供し、識別情報の共有を強化し、関連する違法犯罪行為の予防・取り締まりに支援と協力を提供しなければならない。

第十三条　本方法の規定に違反し、生成合成コンテンツに識別を行わなかったために重大な結果が生じた場合は、網信などの関連主管部門が、関連する法律、行政法规、部門規章の規定に従って罰則を科す。