BBCの調査によると、最近、国際的な詐欺グループがFacebookでAIによって生成された偽の大虐殺被害者の画像を掲載し、広く注目を集めました。大虐殺の記憶を守る団体は、これらの画像が生存者やその家族に大きな苦痛を与えたと述べています。このことに対して、Meta（Facebookの親会社）も批判され、そのプラットフォームがユーザーにより悲惨な歴史を「感情ゲーム」に変えていると指摘されています。

実際には、第二次世界大戦中にアウシュビッツ強制収容所内で撮影された本物の写真はわずかしかありません。ここ数か月、ネット上では多くの偽の画像が公開され、それらが収容所の場面であると主張しています。例えば、囚人がバイオリンを弾いている様子や、恋人がフェンスのそばで再会する様子などです。これらの投稿は何万回ものいいねや共有を集めていました。アウシュビッツ記念館のスポークスパーソンであるパヴェル・サヴィキ氏は、「ここで人々は物語を捏造している…これはSNS上で奇妙な感情ゲームだ」と述べました。彼は、これらがゲームではないことを強調し、記憶すべき真実であり、痛みであると説明しました。

image.png

BBCの調査によると、これらの画像の出典は多くがパキスタンを拠点とするコンテンツクリエイターのネットワークから来ています。彼らはMetaのコンテンツ収益化プログラムと提携し、利益を得ようとしています。アブドゥル・ムジスというアカウントは、SNSを通じて2万ドルを稼いだと主張しており、そのアカウントは4か月間で12億回以上の動画視聴数を記録しました。

これらのAIで生成された画像は品質が低く、通常「AIゴミ」と呼ばれており、SNS上で広く拡散されています。アウシュビッツ博物館は6月に警告を発し、これらのアカウントが自らが発表したコンテンツを盗用し、AIモデルを使って加工することで、しばしば歴史的な詳細を歪めたり、完全に虚構の被害者の物語を作り出していると指摘しました。

さらに、偽の画像が増えるにつれて、アウシュビッツ記念館の使命にも脅威が及んでいます。多くの人々がFacebookの投稿に「これはAIで作られた写真です」とコメントしています。このような現象に困惑し、悲しみを感じる生存者や家族もいます。国際ホロコースト記念連盟のロバート・ウィリアムズ博士は、このような状況が生じたことに残念さを感じていると述べました。

Meta側は、ユーザーが偽の物語を掲載することを意図的に奨励しているわけではないものの、システムが高反応のコンテンツを報酬すると述べています。BBCは、インド、ベトナム、タイ、ナイジェリアからのAIゴミアカウントも発見しました。

一部のコンテンツクリエイターは、直接的にホロコーストの画像を作成していませんが、同じようなSNSグループで活動しており、歴史的内容がアクセス数を伸ばす信頼できる手段だと考えています。これらの偽の歴史的画像が増える中、ホロコーストの歴史の真実性への懸念が高まっています。ウィリアムズ博士は、人々が歴史を極端に操作する方法を避けるべきだと呼びかけました。

要点：

📌 国際的な詐欺グループがAIで偽の大虐殺画像を作成し、Facebookで論争を引き起こしました。

📌 関係団体は、こうした行為が生存者や家族に苦痛を与え、歴史への尊重を損なっていると述べています。

📌 Metaは偽コンテンツの掲載を意図していませんが、アルゴリズムが低品質なコンテンツに高い反応を示し、これにより問題が生じています。