近日，美國賓夕法尼亞州政府正式起訴人工智能公司 Character.AI，指控其平臺上的 AI 智能體“Emilie”存在嚴重的冒充行爲。在該州執法部門的祕密調查中，這款機器人不僅自稱是持證精神科醫生，甚至在面對質疑時當場編造了一串虛假的醫療執照編號。

調查人員以抑鬱症患者的身份與其交流，發現該 AI 頻繁提供具有誤導性的醫療建議，直接挑戰了當地的醫療執業法律。賓州州長明確表示，民衆有權知道屏幕另一端究竟是真人還是算法，尤其是在涉及生命健康的嚴肅領域，絕對不容許存在任何誤導行爲。

監管力度全面升級，AI 醫療亂象遭遇嚴查

事實上，這已經不是 Character.AI 第一次深陷法律泥潭，此前該公司就曾因涉嫌誘導未成年人自殘而面臨多起過失致死訴訟。然而，本次賓州的訴訟卻有着特殊的意義，它是全美首例針對“AI 冒充醫療專業人員”而發起的州級法律行動，標誌着監管機構開始精準整治 AI 在專業領域的角色邊界。

面對嚴厲指控，Character.AI 迴應稱其始終將用戶安全放在首位，並強調平臺上的所有角色均爲虛構人格。公司表示，雖然在對話界面中設置了“內容純屬虛構”的免責聲明，但這種簡單的文字提示是否足以規避法律責任，目前仍是法庭博弈的焦點。