AP通信によると、生成AIツールの台頭により、企業、サービスプロバイダー、消費者はかつてないほどの課題に直面しています。これらのツールは、ほとんど人手を介することなく、新規で詳細なオンラインレビューを効率的に生成できるため、偽レビューの問題がますます深刻化しています。

報告書によると、偽レビューは長年、AmazonやYelpなどの大手ECプラットフォームを悩ませてきました。これらのレビューは、通常、非公開のソーシャルメディアグループで取引され、偽レビュー仲介業者と料金を支払う意思のある企業の間で行われます。場合によっては、企業はギフトカードなどの報酬を提供して、顧客に肯定的なレビューを書くよう促すこともあります。

ロボット 人間と機械のインタラクション 人工知能

しかし、OpenAIのChatGPTに代表されるAIテキスト生成ツールの普及により、詐欺師はより迅速かつ大量に偽レビューを生成できるようになりました。テクノロジー業界の専門家によると、この詐欺行為は米国では違法であり、年間を通じて行われていますが、多くの消費者がギフト購入にレビューを頼りにしているため、ホリデーショッピングシーズンには、偽レビューが消費者に与える被害が特に深刻になります。

Transparency Companyというテクノロジー企業兼監視機関は、偽レビューを検出するためのソフトウェアを使用しており、2023年中頃からAI生成レビューが大量に出現し、その数は増加の一途を辿っていると報告しています。

AIツールの登場により、偽レビューの生成はより隠蔽され、識別が困難になっています。これは、消費者の利益を損なうだけでなく、ECプラットフォームに対する信頼性にも深刻な脅威を与えています。AI生成の偽レビューを効果的に取り締まる方法が、ECプラットフォームと規制当局の前に大きな課題として立ちはだかっています。