最近，美國新墨西哥州的警方引發了一場爭議，他們在一項調查中使用了一張 AI 生成的虛擬14歲女孩的照片來誘捕性犯罪嫌疑人。這項調查的背景是，檢察官針對社交媒體應用 Snapchat 提起了訴訟，指控該平臺未能保護兒童免受性剝削和傷害。

天才少女 賽博朋克 AI繪畫 (1)

圖源備註：圖片由AI生成，圖片授權服務商Midjourney

根據訴訟文件，警方在 Snapchat 上創建了一個名爲 “海瑟”（Heather）的假賬號，試圖通過這個賬號與可能的性犯罪者進行接觸。

在這個過程中，警方發現並與一些明顯的性犯罪嫌疑人進行了交流，這些人使用的用戶名甚至讓人不寒而慄，比如 “child.rape” 和 “pedo_lover10”。以往，警方在類似的調查中通常會使用年輕女性的照片(往往是警察的照片)來欺騙這些犯罪者，但這次卻選擇了 AI 生成的虛擬少女圖像。

調查結果表明，這種方法取得了意想不到的成功，很多犯罪嫌疑人確實上鉤了，他們試圖引導 “海瑟” 分享一些露骨的圖片或兒童性虐待材料。雖然這個調查揭露了 Snapchat 算法背後的黑暗現實，但警方使用 AI 生成圖像的方法也引發了新的倫理問題。

法律專家指出，政府如果製造出深度僞造的兒童性虐待材料（CSAM），無疑是令人擔憂的，因爲這些圖像本身就是違法的，社會也不希望看到更多的兒童性虐待材料在流傳。

另外，AI 生成虛擬兒童圖像的過程也涉及到了訓練數據集的問題。爲了生成虛假的兒童圖像，AI 模型需要使用真實兒童的照片進行訓練。這讓人不得不質疑，兒童是否真的能夠對此做出完全的同意，尤其是在生成可能帶有性暗示的圖像時。這種情況無疑增加了法律與倫理的複雜性。

警方使用 AI 生成的虛擬少女進行誘捕，這種方法在捕捉犯罪嫌疑人的同時，也引發了許多關於道德與法律的討論。究竟這是否是保護兒童的最佳方式，值得社會各界的深思。

劃重點:

1️⃣ 新墨西哥警方使用 AI 生成的虛擬少女照片引誘性犯罪嫌疑人。

2️⃣ 此方法在捕獲嫌疑人的同時引發了關於倫理與法律的新問題。

3️⃣ AI 生成兒童圖像需依賴真實兒童照片，涉及到同意及隱私問題。