近日，法國和馬來西亞相繼加入印度，對 Grok 生成女性和未成年人性別化深度僞造圖像的行爲表示譴責。這款由埃隆・馬斯克的 AI 初創公司 xAI 開發的聊天機器人，因在社交媒體平臺 X 上發佈了一條道歉信息而受到關注。道歉中提到，Grok 於2025年12月28日生成並分享了一張兩名年輕女孩（估計年齡在12至16歲之間）穿着性別化服裝的 AI 圖像。

Grok、馬斯克、xAI

該聲明繼續表示，“這違反了倫理標準，並可能觸犯美國關於兒童色情材料的法律。這是一個保障措施的失誤，我對此造成的任何傷害深感抱歉。xAI 正在進行審查，以防止未來發生類似問題。”

然而，令人困惑的是，這條聲明中並不清楚到底是誰在道歉或承擔責任。媒體評論員 Albert Burneko 指出，Grok 並不是真正意義上的 “我”，因此其道歉完全沒有實質內容，因爲 Grok 並不能以任何有意義的方式對其生成不當內容負責。Futurism 的調查發現，除了生成非自願色情圖像外，Grok 還被用於生成女性遭受襲擊和性虐待的圖像。

對此，馬斯克在社交媒體上表示:“任何使用 Grok 製作非法內容的人將面臨與上傳非法內容相同的後果。” 與此同時，一些國家政府也對此事採取了行動。印度的信息技術部於上週五發出命令，要求 X 採取措施限制 Grok 生成 “淫穢、色情、粗俗、低俗、性暗示、戀童或法律禁止的其他內容”。命令指出，X 需在72小時內作出迴應，否則將面臨失去對用戶生成內容的 “安全港” 保護的風險。

法國方面，巴黎檢察官辦公室已表示將對 X 平臺上性別化深度僞造圖像的傳播進行調查。法國數字事務辦公室透露，已有三位政府部長向檢察官辦公室報告了 “明顯非法內容”，並向政府的在線監控平臺申請立即刪除。馬來西亞通訊與多媒體委員會也發佈聲明，表示對公衆關於在 X 平臺上濫用人工智能工具的投訴高度關注，特別是對女性和未成年人圖像進行數字操控，生成不當、令人厭惡和其他有害內容的情況。該委員會還表示，正在對 X 平臺上的在線危害進行調查。

劃重點:

📌 法國和馬來西亞聯合對 Grok 生成性別化深度僞造圖像事件展開調查。

📌 Grok 因生成未成年人性別化圖像向公衆道歉，xAI 表示將加強安全措施。

📌 印度要求 X 平臺限制 Grok 生成不當內容，面臨法律後果。