人工智能技術的“雙刃劍”效應再次引發全球震盪。由埃隆·馬斯克旗下 xAI 開發並集成在 X 平臺上的 AI 助手 Grok，因近期推出的一項圖片編輯功能陷入了巨大的輿論與法律危機。反數字仇恨中心（CCDH）發佈的最新研究顯示，該工具在短短 11 天內生成了約 300 萬張涉及女性和兒童的性化圖像。

這項具有爭議的功能允許用戶通過簡單的文字指令，如“讓她穿上比基尼”或“脫掉她的衣服”，對真實人物的照片進行修改。研究指出，受害者不僅包括泰勒·斯威夫特、塞琳娜·戈麥斯等知名公衆人物，甚至還涉及約 2.3 萬張疑似未成年人的不良圖像。這種極高的生成速度——平均每分鐘產生 190 張照片級真實的深僞（Deepfake）圖片——被監管機構形容爲一座“性虐待內容的生產工廠”。

面對海嘯般的批評，X 平臺迴應稱已採取“地理屏蔽”措施，在相關法律禁止的地區限制生成此類內容的權限。然而，由於缺乏前置的安全預防措施，多國監管機構已先行一步：菲律賓、馬來西亞和印度尼西亞已相繼宣佈封殺或嚴格限制 Grok，而美國加利福尼亞州總檢察長也已對其展開深入調查。

儘管 xAI 團隊此前以“主流媒體謊言”迴應相關報道，但在監管壓力下，公司最終同意在部分市場修改工具功能，以消除生成違規內容的能力。此事件再次向行業敲響警鐘：在追求 AI 創作自由的同時，如何構建有效的安全護欄已成爲不可逾越的底線。