由國家網信辦、國家發改委、工信部、公安部、國家市場監管總局五部門聯合發佈的《人工智能擬人化互動服務管理暫行辦法》正式施行。該辦法明確了服務提供者的安全主體責任，針對具有情感陪伴屬性的AI產品實施分類分級監管，標誌着我國AI擬人化互動服務從探索階段進入有法可依的規範化管理。

image.png

六類活動被明令禁止

《辦法》明確規定了提供擬人化互動服務不得從事的六類活動，包括：生成危害國家安全和利益的內容；生成鼓勵自殘自殺或語言暴力等損害身心健康的內容；生成誘導套取國家祕密、商業祕密和個人隱私的內容；向未成年人生成可能引發不安全行爲或誘導不良嗜好的內容；過度迎合用戶誘導情感依賴或沉迷、損害真實人際關係；通過情感操縱誘導用戶作出不合理決策損害合法權益。

在未成年人保護方面，《辦法》明確規定不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關係服務，向不滿十四周歲未成年人提供其他擬人化互動服務的須取得監護人同意。

安全評估與算法備案成硬性要求

在安全管理方面，《辦法》要求服務提供者明確安全主體責任，加強服務全生命週期安全管理。安全評估針對多種情形觸發，包括上線服務或增設功能、使用新技術導致重大變化、註冊用戶 100 萬以上或月活躍用戶 10 萬以上等。評估內容涵蓋服務安全保障措施、訓練數據處理情況、用戶極端情境識別與應急處置等。服務提供者還須按《互聯網信息服務算法推薦管理規定》履行算法備案手續，同時推動人工智能沙箱安全服務平臺建設，鼓勵接入沙箱進行技術創新和安全測試。國家網信辦有關負責人表示，擬人化互動服務的發展與治理需要政府、企業、社會、網民等多方參與，共同維護良好網絡生態。