近日，英國互聯網觀察基金會（IWF）發佈了一項令人不安的報告，揭示了人工智能生成的兒童性虐待內容(CSAM)在網絡上的激增。隨着 AI 技術的普及，現在幾乎任何人只需擁有一臺電腦和一點技術知識，就能生成逼真的深度僞造視頻。

IWF 在今年春季進行的一項爲期30天的調查中發現，黑暗網絡論壇上共有3，512個利用人工智能製作的兒童色情內容，其中大部分都極具真實感。與2023年秋季的類似調查相比，這一數字增長了17%。更讓人擔憂的是，最近發佈的內容中，涉及更加極端或露骨的性行爲的比例也有所上升。

小學生 上學 兒童 (1)

圖源備註：圖片由AI生成，圖片授權服務商Midjourney

IWF 的首席技術官丹・塞克斯頓表示:“真實性在提高，內容的嚴重性也在增強。這是我們不希望看到的趨勢。” 儘管當前完全合成的視頻仍顯得不夠逼真，但隨着技術的快速發展，這種情況可能很快會改變。雖然目前絕大多數的掠奪者仍然依賴於現有的真實視頻素材進行深度僞造，但這種趨勢無疑給倖存者造成了持久的傷害。

此外，報告還指出，AI 技術的快速發展使得監管機構、科技公司和執法機構面臨新的挑戰。去年夏天，美國七家大型 AI 公司簽署了一項公衆承諾，承諾遵循一系列倫理和安全指南。然而，他們並不掌控那些散落在網絡上的衆多小型 AI 程序，後者通常是免費的，容易獲取。

這種新型的兒童色情內容可能會使得追蹤交易這些內容的戀童癖者變得更加困難。新生成的僞造材料往往可以逃避社交媒體平臺和執法機構的自動掃描，這讓人對如何應對這種情況感到困惑。美國司法部已對至少一名利用人工智能製作兒童色情內容的男子提出了指控，但在法律上如何界定此類犯罪仍然存在灰色地帶。

FBI 表示，它會認真對待兒童犯罪的每一個指控，並與各地執法機構合作調查。特別呼籲受害者，如果您或您認識的人是兒童剝削的受害者，請立即聯繫網絡小組熱線。

劃重點:

📈 近期報告顯示，AI 生成的兒童性虐待內容在黑暗網絡上急劇上升，較之前增加了17%。

🛑 僞造內容的真實性和嚴重性提升，給倖存者造成了更大的傷害與困擾。

⚖️ 法律對於 AI 生成內容的界定仍存在灰色地帶，執法機構面臨新的挑戰。