重慶、監督を強化し、不正なAI製品10種以上を販売停止して技術の安全性を確保

最近、重慶市委ネットワーク情報弁公室の記者会見で、重慶市が人工知能技術の濫用を対象とした特別整備行動を実施していることが明らかにされた。今年に入って、「AI処方」など10種類以上の不正なAI製品が提供中止となり、重慶市がAI技術の規制に注力していることを示している。

図の出典：AIによって生成された画像、画像ライセンスサービス提供者Midjourney

人工知能の急速な発展とともに、人々の生活に多くの利便性をもたらす一方で、濫用による偽情報やデータセキュリティ上の問題も生じている。魏春は、重慶市は安全と発展を両立させ、生成型AIの健全かつ秩序ある発展を目指すとしている。

AIの濫用問題に対応するため、重慶市はウェブプラットフォームに対してAI生成コンテンツを表示させるよう求め、公众が識別できるように「ラベリング」を行う。同時に、プラットフォームが内容審査メカニズムを整備し、偽情報の検出および識別能力を向上させるよう推進している。整備作業は、AI技術を利用して偽情報を作成したり、他人の身分を偽装したり、ネットワークウォーターマンを使用したりする問題に焦点を当てており、違法な広告アカウント56個を処理し、AIによって生成された偽情報1,500件以上を削除した。