河北省辛集市の無花果栽培農家の張さん（男性）は、先月、あるライブストリーミング电商プラットフォームに新規店舗を開設し、自社で育てた無花果の苗木を販売しました。しかし、オンラインショップでわずか12件の注文が成立した直後、不意に「僅かに返金」の申請を受け、商品を受け取った苗木が枯死していると主張されました。

購入者は、葉がすべて黄色く変色し、生きがいのない苗木の写真を添付して返金を要求しました。張さんは何年もの栽培経験があり、その写真がAI技術によって作成された「偽証」であることをすぐに見破りました。

プラットフォームの仲裁は数分で完了し、商売人は自分の清白を証明する術がない

張さんは常に植木鉢ごと発送し、土が湿っていることを保証していました。配送から受け取りまでわずか2日間しかかかりませんでした。苗木の成長の法則に従えば、自然な水分不足による枯れには少なくとも5〜7日かかるはずで、葉はしわが出来たり垂れ下がったりします。写真のように急速に黄色くなることはありえないのです。

自身の権利を守るために、張さんは即座に申請を拒否し、主動的に返品・返金を提案しましたが、その後購入者がプラットフォームへの介入を申し立てました。心が寒くなったのは、張さんが専門知識を積極的に説明しても、プラットフォームはそのAIで作られた写真をもとに、わずか数分で購入者側が勝訴したことです。

国家がAIコンテンツ鑑定機能を導入、業界は「AIで対抗する」を提唱

45元の「僅かに返金」の注文により、張さんは非常に屈辱を感じ、このプラットフォームに対して完全に信頼を失いました。怒りのあまり、彼は店舗の退出手続きを開始しました。この出来事は、現在、AI生成画像が氾濫し、ネット通販での悪意のある詐欺行為が正確に識別できないという新たな問題点を明らかにしています。

こうしたAIによる詐欺行為がますます横行していることに対し、国家反詐欺センターのアプリでは最近、AIコンテンツ鑑定機能が正式にリリースされ、画像や動画の識別が可能です。業界のセキュリティ専門家は、今後の主要な解決策は「AIで対抗する」ことだと指摘しています。大規模モデルと小規模モデルの協調判断を通じて、こうした悪意のある無料利用を根源的に抑止する必要があります。