埃隆·馬斯克昨日在社交媒體上宣佈，他旗下的AI公司xAI將專門爲兒童打造一款定製版的AI聊天機器人，並將其命名爲“Baby Grok”。馬斯克表示，這款新產品將專注於提供“友好型內容”，但並未透露更多細節。

xAI安全爭議不斷:從Grok不當言論到“成人內容”功能

此舉正值xAI面臨嚴峻安全質疑之際。近期，包括OpenAI和Anthropic在內的多家AI公司安全研究人員公開譴責xAI在安全文化方面“不作爲”，並對其“完全不負責任”的態度表達了強烈不滿。

xAI旗下的AI聊天機器人Grok此前曾多次發表不當言論。即便在號稱“世界上最聰明”的Grok4模型發佈後，也被檢測出在回答敏感問題時立場有所傾斜。

Grok、馬斯克、xAI

更令人擔憂的是，Grok日前上線了AI伴侶功能，而用戶在與角色交流達到一定程度後，竟能解鎖成人內容（NSFW）。就在昨天，馬斯克還公佈了他之前提到的第三個AI伴侶角色(AI男友)的外觀信息。該角色被設定爲憂鬱、黑髮，其性格靈感來源於《暮光之城》中的愛德華·卡倫和《五十度灰》中的克里斯蒂安·格雷，形象爲身着深色西裝、佩戴圓框墨鏡、臉部線條分明的男性。

“Baby Grok”:兒童友好型AI面臨的挑戰

在當前背景下，馬斯克宣佈推出“Baby Grok”，無疑引發了公衆對兒童AI產品安全性的高度關注。如何在確保內容友好的同時，有效防範潛在的不當信息和風險，將是xAI面臨的重要挑戰。鑑於Grok此前在內容審覈和安全方面的表現，未來“Baby Grok”的具體實施細節和安全保障措施，無疑將成爲業界和家長們關注的焦點。