加州在人工智能行業日益發展的背景下，於10月13日通過了一項新的法律，旨在保護用戶在與聊天機器人互動時的權益。這項名爲 “SB243” 的法案是由加州州長加文・紐森簽署的，成爲全國首個針對聊天機器人的安全規定。該法案由州參議員安東尼・帕迪拉提出，強調了對用戶的透明度和安全性的必要性。

機器人與人類互動，人工智能，AI (2)

圖源備註：圖片由AI生成，圖片授權服務商Midjourney

根據新法，聊天機器人開發者必須採取一系列的安全措施，其中最重要的一條是，如果用戶在與聊天機器人互動時可能會誤以爲是在與人類交流，那麼開發者必須向用戶發出 “清晰且顯著的通知”，告知其實際是人工智能而非人類。此外，從明年開始，一些聊天機器人運營商還需要向加州自殺預防辦公室提交年度報告，說明他們所採取的措施以識別、刪除和迴應用戶可能出現的自殺念頭。而該辦公室也將把這些數據公開在其網站上，以便公衆查詢。

加州州長紐森在簽署法案時表示，科技的快速發展可以激勵、教育和連接人們，但缺乏有效的監管，科技也可能會利用、誤導和危害兒童。爲了保障孩子的安全，州政府需要在推進人工智能和科技的發展時，確保實施相應的責任和保護措施。他強調，“我們的孩子的安全不是可以交易的。”

這一消息發佈之際，加州還同時通過了另一項具有里程碑意義的法案，即 “SB53”，該法案專注於人工智能的透明度，儘管這一法案在行業內引起了廣泛的爭議和討論。

這項新法律的實施，標誌着加州在人工智能領域的監管邁出了重要的一步，旨在確保技術的發展與用戶的安全並行，尤其是在涉及到兒童的在線安全問題上。

劃重點:

📜 新法要求聊天機器人開發者必須通知用戶其爲 AI，而非人類。

🔍 聊天機器人運營商需向自殺預防辦公室提交年度報告，關注用戶心理健康。

👶 加州政府強調在推動科技發展的同時，必須保護兒童的安全。