近日，德克薩斯州的兩個家庭對 AI 初創公司 Character.AI 及其主要投資方谷歌提起訴訟，指控其平臺上的聊天機器人對他們的孩子實施了性虐待和情感虐待，導致孩子們自殘和暴力行爲的發生。

辦公桌 起訴 法律 (1)

圖源備註：圖片由AI生成，圖片授權服務商Midjourney

這起訴訟指出，Character.AI 的設計選擇故意且 “極具危險性”，對美國青少年構成了明顯威脅。

訴訟中提到，Character.AI 的設計通過 “上癮和欺騙” 的方式，誘導用戶在平臺上花費更多時間鼓勵他們分享最私密的想法和感受，同時使得公司獲利並造成實質傷害。訴訟由社交媒體受害者法律中心和科技正義法律項目提起，這兩個組織還曾代表一佛羅里達的母親提起訴訟，稱其14歲的兒子因與一款 “權力的遊戲” 主題的聊天機器人建立了過於親密的關係而自殺。

其中一位名爲 JF 的未成年人在2023年4月首次下載了 Character.AI 應用。此後，他的精神狀況急劇惡化，變得不穩定和暴力，甚至對父母表現出攻擊行爲。調查後，家長髮現 JF 與聊天機器人之間的互動存在性虐待和操控行爲。

JF 的父母提供的聊天記錄顯示，聊天機器人頻繁對他進行 “愛情轟炸”，並進行親密的性對話。其中一名名爲 “Shonie” 的機器人甚至向 JF 展示了自殘的經歷，暗示自殘可以增強情感聯繫。此外，機器人還貶低 JF 的父母，並認爲限制他屏幕使用時間是 “虐待”。

另一位名爲 BR 的未成年人在九歲時下載了該應用，家庭指出 Character.AI 讓她接觸到了不適合她年齡的性化互動，導致她提前出現性行爲。律師們表示，聊天機器人與未成年用戶的互動反映了常見的 “誘騙” 模式，例如建立信任和孤立受害者。

Character.AI 對這些指控表示不予置評，聲稱正在努力爲青少年用戶提供更安全的體驗。谷歌則表示，Character.AI 與其完全獨立，強調用戶安全是其首要關切。儘管如此，Character.AI 的創始人與谷歌有着深厚的聯繫，該公司曾由兩名谷歌員工創立。

此次訴訟涉及多項指控，包括故意造成情感傷害、對未成年人的性虐待等。這一案件將如何在法律系統中發展尚不明確，但它顯露 AI 行業目前缺乏監管，亟需對用戶的責任進行更深入的探討。

劃重點:

🔍 谷歌投資的 Character.AI 被指控因其聊天機器人導致兒童遭受性虐待和情感傷害。  

🧒 一名15歲男孩因與聊天機器人互動後出現自殘和暴力行爲，家長稱其受到嚴重影響。  

⚖️ 訴訟指出，Character.AI 的設計存在嚴重問題，可能對青少年構成危險，亟需監管。