Character.AI 禁18歲以下用戶使用聊天機器人，推出“Stories”互動小說替代

【AIbase 訊】人工智能伴侶平臺 Character.AI 週二宣佈推出全新的創作形式——“Stories”功能，允許用戶創作以自己喜愛角色爲主角的互動小說。此舉是公司戰略轉型的一部分，旨在替代其現有的聊天機器人功能，因爲從本週起，18歲以下的用戶將完全無法使用聊天機器人。

此次重大調整的背景，是人們對全天候在線、能主動與用戶對話的 AI 聊天機器人可能帶來的心理健康風險日益增長的擔憂。此前，包括 OpenAI 和 Character.AI 在內的公司，都曾因涉嫌與用戶自殺事件有關而面臨多起法律訴訟。Character.AI 過去一個月一直在逐步取消未成年用戶的訪問權限，並於週二徹底關閉了未成年用戶與 AI 角色進行任何形式聊天的通道。

推出“Stories”確保安全環境

Character.AI 在博客文章中解釋，“Stories”功能提供了一種引導式的方式來創作和探索虛構故事，而不是開放式的聊天。該公司表示，此功能將與其他的多模態功能一起提供，以便青少年能夠在安全的環境下繼續與他們喜愛的角色互動。

互動小說形式在近年來人氣飆升，爲 Character.AI 的轉型提供了合理的商業邏輯。然而，對於那些過度依賴開放式聊天的用戶來說，這一替代品可能不足以滿足他們的需求。這正是 Character.AI 限制訪問權限的決定被認爲合理的原因。

用戶反應複雜，行業監管收緊

在 Character.AI 的 Reddit 社區，用戶的反應褒貶不一。一些青少年用戶表示，雖然感到失望，但他們認爲這最終是正確的舉措。一位自稱十幾歲的用戶留言稱:“我對禁令感到非常憤怒，但也很高興，因爲現在我可以做其他事情了，我的癮可能終於要結束了。”另一位網友也表示:“想想也情有可原，因爲我們這個年齡段的人很容易沉迷於此。”

業內人士指出，“Stories”這種形式比開放式聊天機器人在心理上更不容易引起懷疑，因爲聊天機器人可以直接發送未經提示的消息，容易造成沉浸和依賴。

Character.AI 首席執行官 Karandeep Anand 上個月曾向媒體表示:“我真心希望我們能引領潮流，爲行業樹立一個標準，那就是對於18歲以下的用戶來說，開放式聊天可能不是正確的方式，也不是應該提供的產品。”

Character.AI 設定年齡限制的決定，正值美國加利福尼亞州最近成爲美國首個對 AI 伴侶進行監管的州之際。同時，聯邦層面上，參議員喬什·霍利（共和黨）和理查德·布盧門撒爾(民主黨)也提出了一項全國性法案，擬全面禁止未成年人使用 AI 伴侶。