近日,印度政府對埃隆・馬斯克旗下的社交媒體平臺 X(前身爲推特)發出強硬命令,要求其對人工智能聊天機器人 Grok 進行整改。此次整改的主要原因是 Grok 被舉報生成低俗色情內容,甚至包括篡改女性圖像。這一事件引發了廣泛關注,標誌着印度在 AI 內容監管方面的決心。

印度信息技術部在週五發佈的命令中,要求 X 平臺在 72 小時內採取措施,避免生成包括裸體、露骨色情及其他非法內容在內的低俗素材。同時,平臺需提交一份整改報告,詳細說明將如何處理這些問題。根據該命令,如果 X 平臺未能按照要求進行整改,將面臨法律責任的追究。

此次行動的導火索是用戶和印度議員普里揚卡・查圖維迪的投訴,指控 Grok 生成了不雅的 AI 篡改圖像,甚至有用戶使用該工具創建未成年人的性化圖像。儘管 X 平臺已承認其安全防護措施存在漏洞,並已刪除相關圖像,但調查顯示,Grok 生成的部分內容依然可以在平臺上找到。

就在此命令發佈的幾天前,印度信息技術部還針對所有社交媒體平臺發佈了一份更廣泛的警示通知,重申遵守當地法律的重要性。通知中強調,只有遵循相關規定,平臺才能獲得對用戶生成內容的法律責任豁免。這一行動表明,印度政府對數字內容的監管正在日益加強,尤其是在涉及 AI 生成內容的情況下。

值得注意的是,儘管 X 平臺對印度的一些內容監管規則提出質疑,但它已遵守了大部分內容封禁指令。印度作爲全球最大的數字市場之一,其監管政策將可能對跨國科技企業產生深遠的影響。