最近，舊山市副市長律師 Yvonne Meré 發起了一場針對16個網站的訴訟，這些網站利用人工智能技術製造深度僞造色情內容，未經女性和女孩的同意就將她們的照片處理成裸體。這一前所未有的法律行動，旨在打擊這些在青少年中愈演愈烈的有害趨勢，尤其是那些利用 “脫衣應用” 來操控自己同學圖片的青少年男孩。

AI換臉 人臉識別_

圖源備註:圖片由AI生成，圖片授權服務商Midjourney

根據《紐約時報》的報道，這16個被起訴的網站在今年前六個月內共被訪問了2億次。負責這些網站的公司分佈在加利福尼亞、新墨西哥、英國和愛沙尼亞等地。記者試圖聯繫這些網站的代表，但要麼沒有迴應，要麼沒有人可以接受採訪。有的網站甚至用 “想讓她脫衣嗎?” 的語句來宣傳他們的服務，另一些則直接鼓勵用戶通過這些網站獲取女性的裸照。

值得注意的是，這些網站通常提供免費初步的圖片，但後續處理則需要收費，付款方式包括加密貨幣或信用卡。使用的深度僞造技術依賴於用真實的色情圖像和兒童虐待圖像訓練的 AI 模型，以生成看起來真實的裸體照片。舊金山的市檢察官 David Chiu 強調，相關責任人的懲罰幾乎微乎其微，並指出，圖像一旦傳播，找到原始網站變得相當困難，這讓受害者追求法律救濟的過程更加複雜。

Sara Eisenberg 負責一個聚焦社會重大問題的法律單位，她指出，單靠教育青少年安全使用技術是遠遠不夠的。任何照片都可能被無授權處理，傳統的保護措施已經無法奏效。Eisenberg 說:“即使孩子們掌握了互聯網和社交媒體的使用技巧，仍然無法阻止有人利用這些網站做出極其惡劣的事情。”

這場訴訟不僅尋求關閉這些網站，還希望永久禁止他們繼續製造深度僞造色情內容，同時要求支付民事罰款和律師費。訴訟書稱，這些網站違反了國家和地方的報復色情法律、兒童色情法律以及加利福尼亞的不公平競爭法，後者禁止非法和不公正的商業行爲。

Meré 表示，看到《紐約時報》上有關深度僞造圖像的危害後，她立即與 Eisenberg 聯繫，並尋求 Chiu 的支持來制定訴訟。Chiu 提到，從泰勒・斯威夫特到普通中學生的深度僞造裸照屢見不鮮，且幾乎沒有人會受到懲罰。專家警告說，深度僞造色情內容對受害者的心理健康、聲譽、大學和工作前景產生嚴重影響。

雖然 Chiu 也承認這種方式可能會讓新網站如同 “打地鼠” 一般層出不窮，但他們希望隨着問題的不斷演變，能夠將更多的新網站納入起訴範圍。作爲人工智能產業的中心，舊金山正是這場法律鬥爭的適宜地點。Chiu 指出，儘管人工智能行業的貢獻是積極的，但深度僞造色情內容的出現則是需要解決的 “黑暗面”。

劃重點:

🌐 舊金山起訴16個深度僞造色情網站，旨在保護女性隱私和權益。  

💰 訴訟要求關閉這些網站，並要求支付民事罰款和律師費。  

📉 深度僞造色情內容對受害者的心理和社會生活產生嚴重影響，法律追責難度大。