在美國佛羅里達州，一名男子因涉嫌創建和分發使用人工智能生成的兒童色情內容而被捕，目前面臨多達20項淫穢罪名。這起案件引發了對生成式人工智能被濫用的廣泛關注。

監獄、嫌犯

據 CBS12新聞報道，這名男子名叫菲利普・邁克爾・麥考克爾（Phillip Michael McCorkle），他在佛羅里達州維羅海灘的一家電影院工作。上週，執法人員在該影院逮捕了他，電視臺的攝製組恰好拍到了這一戲劇性時刻，麥考克爾身穿制服，被警方銬住帶走，場面相當震撼。

這次逮捕的背後，是印第安河縣警長辦公室接到的多起舉報，稱麥考克爾在社交應用 Kik 上發佈了使用 AI 圖像生成器製作的兒童色情圖像。這次逮捕是該縣一項打擊兒童色情犯罪的行動的一部分，然而，麥考克爾利用生成式人工智能進行犯罪的方式讓人感到震驚。

隨着生成式人工智能的普及，這類兒童色情內容的泛濫也引起了各級立法者的關注，許多人正在推動立法以禁止這類不當內容的傳播。然而，目前尚不清楚這些法律措施能在多大程度上遏制這種現象。

去年，國家失蹤與被剝削兒童中心收到了4700起關於生成式人工智能兒童色情內容的舉報，令人擔憂的是，有些罪犯甚至利用生成式 AI 技術製作真實兒童的深度僞造圖像，以進行敲詐。斯坦福大學在2023年進行的一項研究也顯示，廣泛使用的生成式 AI 圖像數據集中發現了數百張兒童性虐待圖像。

把這些信息結合在一起，我們可以看到一個幾乎無法控制的問題。互聯網觀察基金會的首席技術官丹・塞克斯頓（Dan Sexton）曾表示:“我們發現的內容實際上是通過開源軟件生成的，這些軟件被下載並在個人電腦上本地運行，然後進行了修改。這個問題要解決起來難度更大。”

劃重點:

🛑 一名佛州男子因利用 AI 生成兒童色情內容被捕，面臨20項罪名。  

📱 他通過社交應用 Kik 分發這些不當內容，案件引發公衆關注。  

⚖️ 各級立法者正在推動禁止此類內容的法律，但效果尚待觀察。