​中央網信辦強化AI技術監管，處理 3700 多個違規賬號

近期，中央網信辦發起了 “清朗・整治 AI 技術濫用” 專項行動，自2025年4月以來，針對 AI 技術的濫用現象進行了一系列整治工作。該行動重點關注了 AI 換臉、擬聲等技術對公衆權益的侵犯，以及缺乏內容標識導致的公衆誤導等問題。經過第一階段的努力，各地網信部門聯合發力，成果顯著。

圖源備註：圖片由AI生成，圖片授權服務商Midjourney

在整治過程中，累計處置了3500餘款違規小程序、應用程序和智能體，清理了超過96萬條違法違規信息，並對3700多個違規賬號進行了處理。這一系列措施旨在切斷違規產品的營銷引流渠道，促使各大網站平臺加強技術安全保障，並加快生成合成內容標識的落地。

各地網信辦採取了多種措施積極推進整治工作。例如，北京網信辦開設了舉報渠道，形成了 “用戶標記 — 平臺覈查 — 聯合處置” 的工作模式，成功處理了26個舉報案例。上海網信辦則組織了法規宣貫活動，覆蓋了400餘家企業，確保顯式標識規範的上線。浙江網信辦針對 AI 應用和網站平臺加強了督導，累計攔截和清理了超過2550萬條違法信息。

各大平臺也在積極履行責任，騰訊公司規範了應用程序管理，優化了巡查機制，處置了570餘款違規產品。微博通過多種審覈渠道，清理了4800餘條違規內容。抖音建立了 “紅藍對抗” 機制，修復了潛在安全漏洞，提升了對虛假信息的識別能力。

劃重點:

🌐  “清朗・整治 AI 技術濫用” 專項行動自2025年4月啓動，處理3700多個違規賬號。  

📊  第一階段整治中共處置3500餘款違規 AI 產品，清理超96萬條違法信息。  

🔍  各地網信辦積極採取措施，推動顯式標識規範及平臺責任落實，確保網絡安全。