上海市ネット情報弁公室は最近、「AIの濫用」をテーマにした特別な法執行活動を実施し、生成型人工知能技術の違法行為を整備することを目的としています。生成型人工知能技術の急速な発展により、この技術はさまざまな業界にも利便性をもたらしましたが、同時にAIの濫用問題も顕在化しています。例えば、AIによる顔面変換や音声変換などの著作権侵害行為です。これらの問題は個人のプライバシー権益を脅かすだけでなく、ネットワーク環境にも悪影響を及ぼす可能性があります。

image.png

今回の行動において、職員は一部の企業が生成型人工知能の開発や利用において法律に基づいたセキュリティ評価を行わず、必要なセキュリティ対策も講じていないことを発見しました。その結果、これらの技術が顔面変換や音声変換、偽造など著作権侵害行為に使用されることとなりました。このような行為によって違法コンテンツが生成される可能性もあり、例えば「開盒（アカウントの暴露）」「マネーロンダリング（洗錢）」や低俗・性的画像の生成などが挙げられます。

今回の特別行動の重点は、AIの濫用を是正し、新興産業の健全な発展を促進することです。管理を強化するため、ネット情報弁公室は地元のアプリストアに対して54種類の不正な生成型人工知能アプリを非表示にするよう指導しました。また、『人工知能生成合成コンテンツ識別方法』に基づき、専門チームは企業に対して実務的な解説を行い、関連する疑問点を解決するよう支援しました。

処罰については、ネット情報弁公室は26社の生成型人工知能サービスサイトを以前に機能停止を求められた企業に対して再検査を行い、問題が再発しないことを確認しました。3社の改善を拒否したサイトに対しては、初めて『生成型人工知能サービス管理暫定措置』を適用して立件処分を行いました。また、初犯の企業には罰金を免除し、関連する違法機能の停止と登録手続きの指導を求める措置が取られました。

ポイント：

🌟54種類の不正な生成型人工知能アプリが非表示となり、特別行動で規制が強化されました。

🔍3社の改善を拒否したサイトが立件処分を受け、初めて関連管理措置が適用されました。

🚀企業のコンプライアンス意識が明らかに高まり、新しい技術の健全な発展を推進しています。