近日，英國科技大臣利茲・肯德爾對 Elon Musk 所開發的 Grok AI 生成的大量女性和兒童不當圖像表示強烈譴責，稱其 “令人震驚且在文明社會中不可接受”。在數千張對女性和兒童進行數字處理、衣物被去除的親密深度僞造圖像流傳至網絡後，肯德爾呼籲社交媒體平臺 X（前 Twitter）“緊急處理此事”，並表示支持英國監管機構 Ofcom 採取必要的執法行動。

肯德爾強調:“我們無法也不會允許這些貶低和侮辱性圖像的傳播，特別是針對女性和女孩。” 她還指出，英國將堅決抵制這些令人厭惡的在線內容，呼籲各方團結一致，共同打擊這一現象。

在此背景下，專家們對政府反應的速度表示擔憂，批評 “平臺與監管機構之間的拉鋸戰” 使得問題未能得到及時解決。性侵倖存者傑薩琳・凱恩表示，儘管她向 Grok 提出請求以操控自己三歲時的圖像，結果卻顯示該平臺仍允許生成這些不當內容。相比之下，其他 AI 工具如 ChatGPT 和 Gemini 則拒絕了類似請求。

Ofcom 表示已關注 Grok 所產生的不當圖像問題，並已聯繫 X 及其母公司 xAI，瞭解他們爲保護英國用戶所採取的措施。隨着對此事的關注日益加大，在線兒童安全活動家比班・基德隆呼籲政府加強對《在線安全法》的執行力度，並要求在幾天內採取行動，而非數年。

專家們指出，隨着 AI 技術的發展，僞造圖像可能演變爲更長的視頻，其對人們生活的影響將愈發嚴重。他們呼籲政府加大監管力度，防止任何灰色地帶的出現。

目前，生成或分享非自願的親密圖像或兒童性虐待材料在法律上都是違法的，而利用 AI 技術製作的深度僞造圖像也在法律禁忌之列。基德隆還指出，儘管生成的兒童圖像可能不構成性虐待材料，但卻嚴重侵犯了兒童的隱私與自主權。

劃重點:

🛑 肯德爾大臣批評 Grok AI 生成不當圖像，要求 X 平臺緊急處理。

⚖️ Ofcom 已關注此事，並計劃與 Grok 及其母公司溝通以採取必要措施。

📉 專家呼籲政府加強對在線安全法的監管，以保護女性和兒童免受不當內容影響。