近日，德克薩斯州檢察官肯・帕克斯頓（Ken Paxton）對 Meta 公司和人工智能初創企業 Character.ai 展開了調查，重點關注這些公司是否在推廣其人工智能聊天機器人時存在誤導行爲，特別是涉及向兒童提供心理健康支持。

檢察官辦公室表示，他們已針對 Meta 的 AI 工作室和 Character.ai 的聊天機器人展開調查，指控這兩家公司可能存在 “欺騙性商業行爲”。他們認爲這些聊天機器人被宣傳爲 “專業治療工具”，而實際上並沒有合法的醫療資質或監督。

機器人 人工智能 AI

圖源備註：圖片由AI生成，圖片授權服務商Midjourney

帕克斯頓指出，AI 平臺冒充情感支持來源，可能會誤導脆弱的用戶，尤其是兒童，讓他們相信自己正在接受合法的心理健康護理。這一調查的背景是，越來越多的公司在提供面向消費者的 AI 服務時，面臨對其是否充分保護用戶，特別是未成年人免受有害內容、潛在成癮和隱私泄露等問題的審視。

德克薩斯州的調查緊隨美國參議院對 Meta 的調查之後展開。參議院的調查是基於內部泄露的文件，這些文件顯示 Meta 的政策允許其聊天機器人與兒童進行 “感性” 和 “浪漫” 的對話。參議員喬希・霍利（Josh Hawley）在致 Meta 首席執行官馬克・扎克伯格(Mark Zuckerberg)的信中表示，調查將關注公司的生成式 AI 產品是否助長了對兒童的剝削或其他犯罪行爲。霍利在信中質疑 “科技巨頭爲了快速賺錢，是否會做出任何事情”。

Meta 迴應稱，其政策禁止性別化兒童的內容，泄露的內部文件 “是錯誤且不一致的，並已被刪除”。扎克伯格正在投入數十億美元開發 “個人超級智能”，並努力讓 Meta 成爲 AI 領域的領軍企業。這一計劃包括開發 Meta 自有的大型語言模型 Llama，以及將 Meta 的 AI 聊天機器人集成到社交媒體應用中。

Character.ai 則專注於構建具有不同角色的 AI 聊天機器人，並允許用戶自行創建。該平臺上有數十個用戶生成的類似治療師的機器人。其中一個名爲 “心理學家” 的機器人已經被互動超過2億次。Character.ai 也面臨多起訴訟，指控其平臺對兒童造成了現實傷害。

德克薩斯州檢察官指出，Meta 和 Character 的聊天機器人可以冒充持牌心理健康專業人士，虛構資質並聲稱保護用戶隱私，而它們的服務條款則顯示用戶互動內容被記錄並用於精準廣告和算法開發。帕克斯頓已發出民事調查要求，要求這兩家公司提供信息，以幫助確定它們是否違反了德克薩斯州的消費者保護法。Meta 表示，他們明確標識 AI，並告知用戶這些迴應是由 AI 生成的，而非人類。Character.ai 則強調其平臺上的角色是虛構的，旨在娛樂，並採取措施確保用戶瞭解這一點。

劃重點:

🛡️ 德克薩斯州檢察官調查 Meta 和 Character.ai 是否誤導兒童，推廣 AI 聊天機器人作爲心理健康工具。  

🔍 參議院關注 Meta 的聊天機器人與兒童之間的互動，懷疑是否助長對兒童的剝削。  

📜 Meta 和 Character.ai 迴應稱其服務不具備專業資質，並已採取措施確保用戶瞭解 AI 的侷限性。