AIの悪用は日常的なサービス分野にまで浸透しています。配達プラットフォームのDoorDashは最近、AIで生成された画像を使って配達完了証明を偽造した疑いがあるドライバーのアカウントを永久的に停止したことを確認しました。これは世界中の主要なローカルサービスプラットフォームが公に認めた初のAIによる配達詐欺事件であり、生成型AIの濫用の境界について広く懸念を呼んでいます。

 事件の暴露: AI合成画像 vs 実際の玄関、細部の不一致が発覚

12月27日、米国オースティン在住のByrne Hobart氏はSNSプラットフォームXに投稿し、DoorDashのドライバーが注文を受けた直後に「配送完了」としてマークし、「注文品を玄関に置いた」写真をアップロードしたと述べました。しかしHobart氏は、左側の食品容器の画像と右側の自宅の玄関の間に明らかに不一致があることに気づきました。光の位置がずれており、比が狂っており、テキスチャがぼやけていました。これはAIで生成されたものである可能性があります。

image.png

「信じられないことです」とHobart氏は書き込みました。「彼は私の家に来ることもありませんでした。AIを使って配送成功の写真を偽造したのです。」

さらに奇妙なことに、別のオースティンのユーザーが後からコメントし、同じドライバー（表示名が同じ）に遭遇し、完全に同じ経験をしたと述べました。これにより、この出来事の真実性がさらに裏付けられました。

 犯行手法の推測: プラットフォームの脆弱性 + AI画像生成

Hobart氏は、このドライバーが jailbreak された携帯電話や盗まれたアカウントを通じてDoorDashの「過去の配達写真」機能にアクセスし、ユーザーの玄関の実際の画像を取得し、その後、SoraやRunwayなどのAIツールを使用して仮想の食品容器を本物の背景に合成し、配達完了の証拠を作成した可能性があると考えています。

このような操作は技術的ハードルが低くても、プラットフォームの初期の自動審査を回避することができ、ローカルサービスプラットフォームにおけるAIコンテンツの識別能力の欠如を露呈しています。

 DoorDashの迅速な対応: アカウントの永久停止 + 全額返金

この事件が広まり、DoorDashの担当者はTechCrunchに対して確認しました。「迅速な調査の結果、私たちはその配達員（Dasher）のアカウントを永久的に停止し、ユーザーに全額返金を確保しました。私たちは詐欺行為に対してゼロトレラランスであり、AI検知技術と人間による再確認を組み合わせ、リスク管理システムを継続的に改善しています。」

 AIbaseの観察: AIが「あなたに代わって出勤」できるなら、信頼メカニズムは再構築される

この事件は個別のケースですが、警鐘を鳴らしています。生成型AIは「創作ツール」から「詐欺ツール」へと移行しています。履歴書の写真の偽造、配達の受領書の合成、そして今や配達証明に至るまで、AIによって偽造されたコンテンツがデジタルサービスの信頼の基盤を侵食しています。

今後、プラットフォームはデジタルウォーターマーク、端末フィンガープリント、リアルタイムの生体認証など、複数の検証メカニズムを導入する必要があるかもしれません。あるいは、配達員がタイムスタンプ付きの動画をアップロードするよう求められるかもしれません。しかし、それには便利さとセキュリティのバランスがAIによって強制的に崩されてしまうという意味があります。