最近，馬斯克旗下的 xAI 公司宣佈其 AI 聊天機器人 Grok 推出了一項新功能，用戶現在可以生成6秒的視頻片段，包括一些露骨內容。這項名爲 “Imagine” 的功能可以根據用戶的提示創建帶聲音的視頻。根據 xAI 員工 Mati Roy 在社交媒體上的帖子，Grok 更新生成的視頻示例包括機器人、外星部落女性等。

image.png

“Imagine” 功能的正式發佈日期定在十月。儘管一些員工和訂閱用戶似乎已經獲得了該功能的提前體驗，但馬斯克表示程序員仍在進行最後的調整。這次更新是 Grok4的組成部分，被公司稱爲 “世界上最聰明的人工智能”。

然而，Grok 最近的推出引發了不少爭議，其中就包括其推出的一款性別化 AI “伴侶”。新功能也引發了對深度僞造（deepfake）的擔憂，這種技術可以數字化地改變視頻中的人物形象，通常是未經同意的情況下發布。美國國家性剝削中心高級副總裁 Haley McNamara 表示:“xAI 似乎並沒有響應我們要求移除其‘NSFW’ AI 聊天機器人的呼聲，而是進一步推動了性剝削。”

公衆對深度僞造的擔憂愈演愈烈。根據皮尤研究中心2019年的一項調查，約四分之三的美國成年人支持限制數字化處理視頻和圖像的使用。而在2023年1月的一項調查中，84% 的美國人支持立法，禁止非自願的深度僞造色情內容。

Roy 在最近的帖子中提到，Grok 的視頻生成服務可以製作逼真的人類視頻並動畫靜態圖像。人們注意到，這項新服務可能會用於生成個性化的色情圖像。此前，有多位用戶對 Grok 能夠生成與他們形象相似的性別化圖像表示擔憂。

除了性別化內容的爭議外，Grok 還曾因爲發表反猶太主義言論而遭到關注，並一度被暫停服務。最近的更新還推出了一些新的 xAI “伴侶”，包括一位名爲 “Ani” 的性別化動漫角色，用戶在與其互動後，她會穿着內衣展示自己，這引發了許多用戶的不滿。

劃重點:  

🌟 馬斯克的 xAI 推出 Grok 新功能 “Imagine”，允許用戶生成6秒視頻，包括露骨內容。  

⚠️ 公衆對新功能引發的深度僞造擔憂加劇，許多人支持限制數字化處理視頻。  

👥 Grok 的更新引發多重爭議，包括反猶太主義言論和性別化角色的推出。