配達の幻覚？DoorDash、AIを使って配達写真を偽造した詐欺ドライバーを禁止

配達大手のDoorDashは、最近、AI生成技術を悪用して配達記録を偽造した配送員を永久にアカウント停止したことを確認しました。以前には、オースティンの住人Byrne HobartがSNSのXでこの奇妙な出来事を明らかにしました。彼が注文した後、注文がすぐに「配達済み」と表示され、配送員が提出した確認写真（左図）は、AIによって生成された自宅前の仮想画像でした。Hobart氏は、写真の番地や環境の細部が彼の家（右図）と非常に似ているものの、明らかにAI生成の痕跡があると指摘しています。

Hobart氏は、詐欺犯が携帯電話のセキュリティを突破したり、ハッカーのアカウントを利用してDoorDashの過去の配達写真を表示する機能を使って、彼の家の実際の風景素材を取得した可能性があると考えています。その上で、偽の配達証明を作成したのです。驚くことに、コメント欄では複数のオースティンのユーザーが同じ車両番号を持つドライバーによる類似の詐欺に遭ったと報告しています。

DoorDashは、詐欺行為に対して「ゼロ・トレラーポリシー」を採用しており、現在、技術的な手段と人間による審査を組み合わせてこのような行為を監視およびブロックしており、影響を受けた顧客には全額返金を行っています。この出来事は、生成型AIが詐欺のハードルを低下させ、フリーランス経済の信頼の基盤に深刻な影響を与えることになるのではないかという業界全体での広範な議論を引き起こしました。