據 BBC 的調查報道，近期發現一個國際網絡詐騙團伙在 Facebook 上發佈 AI 生成的虛假大屠殺受害者圖像，引發了廣泛關注。致力於保護大屠殺記憶的組織表示，這些圖像讓倖存者和他們的家屬感到非常痛苦。對此，Meta（Facebook 的母公司）也受到批評，認爲其平臺讓用戶將歷史慘劇變成了一種 “情感遊戲”。

實際上，二戰期間在奧斯維辛集中營內部只有少數真實照片，而最近幾個月，網絡上的 AI 詐騙者發佈了許多假圖像，聲稱這些是來自集中營的場景，例如一個囚犯在拉小提琴，或者戀人在柵欄邊重逢，這些內容吸引了數萬次的點贊和分享。奧斯維辛紀念館發言人帕維爾・薩維基指出:“這裏有人在編造故事…… 這是社交媒體上奇怪的情感遊戲。” 他強調，這不是遊戲，而是需要被銘記的真實歷史和痛苦。

image.png

BBC 調查發現，這些圖像的源頭大多來自一個以巴基斯坦爲基地的內容創作者網絡，他們通過與 Meta 的內容變現計劃合作，試圖從中獲利。一個名爲阿卜杜勒・穆吉斯的賬戶聲稱通過社交媒體賺取了20，000美元，而其賬戶在四個月內的內容觀看量超過了12億次。

這些 AI 生成的圖像內容質量低劣，通常被稱爲 “AI 垃圾”，並在社交媒體上大量傳播。奧斯維辛博物館在6月發出警告，指出這些賬戶竊取其發佈的內容，通過 AI 模型加工後，往往扭曲歷史細節或完全虛構受害者的故事。

不僅如此，隨着假圖像的增加，奧斯維辛紀念館的使命也受到威脅，許多人在其 Facebook 帖子下評論稱 “這是一張 AI 生成的照片”。一些倖存者和家庭成員對此現象感到困惑和悲傷，國際大屠殺紀念聯盟的羅伯特・威廉斯博士表示，他們對這種情況的發生感到遺憾。

Meta 方面則表示，雖然他們並不故意鼓勵用戶發佈虛假故事，但其系統獎勵高互動的內容。BBC 還發現來自印度、越南、泰國和尼日利亞的 AI 垃圾賬戶。

儘管有些內容創作者並未直接參與大屠殺圖像的製作，但他們在同樣的社交媒體羣組中活動，認爲歷史內容是吸引流量的可靠驅動力。隨着這些虛假歷史圖像的泛濫，存在對大屠殺歷史真實性的擔憂，威廉斯博士呼籲人們應避免極端操控歷史的方式。

劃重點:

📌 國際詐騙團伙利用 AI 生成虛假大屠殺圖像，在 Facebook 上引發爭議。  

📌 相關組織表示，這種行爲讓倖存者及家屬感到痛苦，破壞了對歷史的尊重。  

📌 Meta 雖然不鼓勵發佈虛假內容，但其平臺算法導致低質量內容獲得高互動，從而促使了這一現象的發生。