最近、Redditで「配達プラットフォームの内部告発者」として投稿された投稿がSNSで大きな反響を呼び、最終的に生成AIによって作成された完全な詐欺であることが判明しました。この投稿は「アルゴリズムによるドライバーの搾取を暴露する」という見出しで、Redditでは8.7万回のいいねを獲得し、Xプラットフォームでは3,680万回以上の閲覧数を記録しました。

AI イーディア ロボット 人工知能 (1)

巧みに偽造された「内部情報」

この投稿者はUberEatsの従業員だと主張し、法律の抜け穴を利用してドライバーの給与を盗んでいると長文で訴えました。信頼性を高めるために、有名なテクノロジー記者であるケイシー・ニュートン（Casey Newton）に「従業員証明写真」と18ページにも及ぶ「内部文書」を提供しました。その文書には、会社が人工知能を使ってドライバーの「絶望スコア（Desperation Score）」を計算している方法が詳しく記述されており、専門家でも本物かどうか見分けがつかないほどでした。

AIを活用した調査：合成の真実を暴く

ニュートン記者は、グーグルのGeminiおよびその統合されたSynthID水印技術を活用して、この従業員証明写真がAIで合成されたものであることを確認しました。投稿者が切り抜きや圧縮などの手段で痕跡を隠そうとしても、SynthIDの堅牢さにより偽造が明らかになりました。

Pangram Labsの創設者マックス・スペロ（Max Spero）は、LLM（大規模言語モデル）の広範な利用により、高品質な「真実のような偽情報」を作成するコストが大幅に低下したと指摘しています。現在では、Redditの「自然な相互作用」を購入し、AIで生成された流行りの投稿を利用してブランド操作や悪意ある誤解を仕掛けている専門の企業さえ存在しています。

対応が難しい「偽情報の時代」

これは孤立した事例ではありません。この詐欺が暴かれたタイミングで、Reddit上にはもう一つ同様に人気のAIを使った配達詐欺が同時に存在していました。専門家は、現状の検出ツールがマルチメディアの合成コンテンツに対処するには万能ではないと警告しています。たとえ偽情報が後に明らかになったとしても、その情報が「ウイルス式に拡散」される間に生じた社会的影響はほとんど取り戻せないことが多いのです。

AIを助けて悪事を働く今、一般市民やメディアはSNSを閲覧する際に、「探偵」のような生存状態に追い込まれています。すべての論理的に整合した情報について、繰り返し真相を突き止めなければならないのです。