針對近期AI生成內容引發的社會倫理挑戰，東南亞兩國接連出手。據TechCrunch消息，印度尼西亞和馬來西亞政府已正式宣佈，將暫時封鎖由馬斯克（Elon Musk）旗下的xAI公司開發的聊天機器人Grok。

這一嚴厲舉措的主要導火索是Grok在圖像生成功能上的監管缺失。據悉，大量用戶在社交平臺X（原推特）上利用該工具生成了涉及真實女性及未成年人的非自願性、色情化深度僞造(Deepfakes)圖像，甚至包含暴力內容。印尼通信與數字部長Meutya Hafid在聲明中嚴厲指出，這種行爲嚴重侵犯了公民的人權與數字空間安全，是絕不能容忍的。

目前，監管壓力正在全球範圍內蔓延。除了東南亞兩國的直接封鎖，印度政府也已要求X採取有效措施攔截違規內容;歐盟委員會則要求公司保留相關文件，爲潛在的法律調查做準備。

面對輿論壓力，xAI方面曾發佈致歉聲明，承認部分內容違反了倫理標準及相關法律。雖然公司隨後將圖像生成功能限制爲僅限訂閱用戶使用，但由於Grok獨立App仍存在漏洞，監管機構認爲其補救措施力度不足。與此同時，馬斯克則在社交媒體上對此類監管迴應稱，這不過是“審查制度的藉口”。

劃重點:

  • 🚫 兩國封鎖: 印度尼西亞與馬來西亞因Grok涉嫌生成大量不當深度僞造圖像而正式實施訪問屏蔽。

  • ⚠️ 內容違規: Grok被指控能根據用戶提示生成涉及未成年人和真實人物的色情或暴力AI圖片，引發國際社會公憤。

  • ⚖️ 全球圍堵: 印度、歐盟及英國監管機構已介入，xAI雖採取限制措施但效果存疑，馬斯克指責此舉爲變相審查。