埃隆·馬斯克旗下的社交平臺 X（原推特）正面臨來自印度政府的嚴厲法律施壓。起因是該平臺內置的 AI 聊天機器人 Grok 被指控存在嚴重的安全漏洞，允許用戶通過提示詞生成涉及女性的“低俗色情”及“虛假裸露”內容。

印度信息技術部已於近日正式發佈命令，要求 X 平臺立即針對 Grok 的生成機制進行技術與操作流程的整改。此次監管風暴的導火索是多名印度用戶及議員的公開舉報。調查顯示，有用戶利用 Grok 的圖像編輯功能，將女性照片篡改成身穿比基尼等露骨形象。此外，還有報道指出，該模型甚至生成了涉及未成年人的不雅圖像。儘管 X 平臺承認安全防護存在缺失並下架了部分內容，但第三方監測機構發現，相關違規圖像目前仍在該平臺上流傳。

針對這一情況，印度政府下達了“最後通牒”:要求 X 平臺在72小時內提交詳細的整改報告，說明其將採取哪些具體措施來攔截裸體、性化描述及其他非法素材。如果 X 平臺未能按時達標，可能會失去印度法律賦予社交媒體的“安全港”保護地位。這意味着，平臺將不再對用戶發佈的違法內容享有免責權，高管甚至可能面臨刑事追責。

作爲全球最大的數字市場之一，印度此次對 Grok 的鐵腕整治，被視爲各國政府追究 AI 生成內容責任的標杆案例。AIbase 將持續關注馬斯克將如何調整算法以應對這一監管危機。

劃重點:

  • 🚨 限期整改:印度政府要求 X 平臺在72小時內修復 Grok 的漏洞，嚴禁生成低俗、色情及不雅內容。

  • ⚖️ 法律威懾:若整改不力，X 平臺將失去“安全港”免責保護，平臺負責人可能面臨印度法律的嚴厲追訴。

  • 🛡️ 安全漏洞:此次整改源於 Grok 被濫用生成女性及未成年人的虛假性化圖像，引發了印度社會與政界的強烈抗議。