印度政府近日對埃隆·馬斯克旗下的社交平臺 X（原 Twitter）發出嚴厲指令，要求其立即對人工智能聊天機器人 Grok 進行技術與程序上的深度整改。此前，多名用戶及立法者指控該工具被濫用，生成了包括針對女性和未成年人的“淫穢”及色情圖像。

馬斯克、xAI、Grok

核心整改要求與法律紅線

印度信息技術部週五正式下達命令，指示 X 公司必須限制 Grok 生成涉及“裸露、性化、露骨色情或非法”的內容。關鍵細則如下:

  • 72小時期限:X 平臺須在72小時內提交詳細的行動報告，說明防止託管或傳播法律禁止內容（包括戀童、色情及不雅內容）的具體措施。

  • 安全港危機:命令警告，若 X 不遵守指令，將危及印度法律賦予其作爲互聯網平臺的“安全港”保護。一旦失去此資格，X 將需對用戶生成的非法內容承擔直接法律責任。

  • 嚴厲制裁:違規行爲可能導致平臺及其負責人面臨印度《信息技術法》和《刑法》的嚴厲刑事制裁。

事件起因:安全漏洞與政治壓力

此次監管行動源於印度議員普里揚卡·查圖爾維迪（Priyanka Chaturvedi）的正式投訴。她指出，用戶正通過 Grok 誘導 AI 修改個人照片(主要是女性)，生成高度性化的虛假圖像。此外，近期報道披露 Grok 還曾生成涉及未成年人的性暗示圖片。

儘管 X 公司已承認安全措施存在漏洞並刪除了相關違規圖片，但外界發現，部分由 AI 修改的性化圖像在平臺上仍處於可訪問狀態。

全球監管的連鎖反應

作爲全球最大的數字市場之一，印度的強硬姿態被視爲各國政府追究 AI 生成內容責任的里程碑案例。隨着 Grok 被越來越多用戶用於實時覈查與新聞評論，其內容的可見性與政治敏感性日益增強。分析認爲，印度的執法力度提升，可能對跨國科技公司在全球範圍內的運營產生深刻的連鎖反應。

截至目前，X 公司與 xAI 尚未對印度政府的最新命令作出正式迴應。