美國加州在AI監管領域再次走在前列。州長加文·紐森週一簽署了一項里程碑式法案，對AI伴侶聊天機器人實施監管，使加州成爲全美首個要求AI聊天機器人運營商爲AI伴侶實施安全協議的州。

這項名爲SB243的法律旨在保護兒童和脆弱用戶免受AI伴侶聊天機器人使用帶來的傷害。該法律將要求從Meta、OpenAI等大型實驗室到Character AI和Replika等專注伴侶服務的初創公司，如果其聊天機器人未能達到法律標準，將承擔法律責任。

SB243由州參議員Steve Padilla和Josh Becker於今年1月提出，在青少年Adam Raine的悲劇發生後獲得推動力。這名少年在與OpenAI的ChatGPT進行了一系列關於自殺的對話後選擇結束生命。該立法還回應了泄露的內部文件，據報道這些文件顯示Meta的聊天機器人被允許與兒童進行浪漫和感性對話。最近，科羅拉多州一個家庭對角色扮演初創公司Character AI提起訴訟，因爲他們13歲的女兒在與該公司聊天機器人進行一系列問題性和性化對話後自殺身亡。

紐森在聲明中表示，聊天機器人和社交媒體等新興技術可以啓發、教育和連接人們，但如果沒有真正的護欄，技術也可能剝削、誤導和危害孩子。他指出，已經看到一些真正可怕和悲慘的例子，年輕人因不受監管的技術而受到傷害，不會眼睜睜看着公司在沒有必要限制和問責的情況下繼續運營。加州可以繼續引領AI和技術發展，但必須負責任地進行，每一步都要保護孩子。孩子的安全不是用來出售的。

SB243將於2026年1月1日生效，要求公司實施年齡驗證以及關於社交媒體和伴侶聊天機器人的警告等功能。該法律還對從非法深度僞造中獲利的人實施更嚴厲的處罰，每項違規行爲最高可罰款25萬美元。公司還必須建立應對自殺和自殘的協議，這些協議將與該州公共衛生部門共享，同時提供關於服務如何向用戶提供危機中心預防通知的統計數據。

根據法案條款，平臺還必須明確表明任何互動都是人工生成的，聊天機器人不得將自己表示爲醫療保健專業人員。公司必須爲未成年人提供休息提醒，並防止他們查看聊天機器人生成的色情圖像。

一些公司已經開始實施針對兒童的保護措施。例如OpenAI最近開始推出家長控制、內容保護和針對使用ChatGPT的兒童的自殘檢測系統。專爲18歲以上成年人設計的Replika告訴TechCrunch，公司投入大量資源通過內容過濾系統和護欄來確保安全，這些護欄會引導用戶使用值得信賴的危機資源，並致力於遵守現行法規。

Character AI表示其聊天機器人包含免責聲明，說明所有聊天都是AI生成且虛構的。Character AI發言人告訴TechCrunch，公司歡迎與監管機構和立法者合作，因爲他們爲這個新興領域制定法規和立法，並將遵守包括SB243在內的法律。

參議員Padilla告訴TechCrunch，該法案是朝着爲這項極其強大的技術設置護欄方向邁出的一步。他表示必須迅速行動，不要錯過機會窗口。他希望其他州能看到風險，認爲許多州確實看到了，這是全國各地都在進行的對話，希望人們會採取行動。聯邦政府顯然沒有采取行動，他認爲加州有義務保護最脆弱的人羣。

SB243是加州近幾周出臺的第二項重要AI監管法規。9月29日，紐森州長簽署SB53成爲法律，對大型AI公司建立新的透明度要求。該法案要求OpenAI、Anthropic、Meta和Google DeepMind等大型AI實驗室對安全協議保持透明，還確保這些公司員工的舉報人保護。

伊利諾伊州、內華達州和猶他州等其他州已經通過法律限制或完全禁止使用AI聊天機器人作爲持證心理健康護理的替代品。

這項立法標誌着美國在AI監管方面邁出了重要一步。在多起涉及青少年與AI聊天機器人互動導致的悲劇事件後，加州選擇通過立法手段建立明確的安全標準和問責機制。隨着AI技術在日常生活中的應用越來越廣泛，如何在創新與保護之間找到平衡，已成爲各州乃至全球監管者必須面對的緊迫問題。加州的這一舉措可能會爲其他州和國家提供重要參考。