最近、SEO専門家のジェームズ・ブロクバンク氏はテスト中に、人工知能ツールのChatGPTが商業的なおすすめを提供する際、信頼性のない情報源、例えばハッカーに侵されたウェブサイトや古くなったドメインを引用している可能性があることを発見しました。この現象は業界関係者から注目され、AIツールを使用する際には、おすすめ情報を必ず確認するようユーザーに呼びかけました。

OpenAI、ChatGPT、人工知能、AI

テストにおいて、ブロクバンク氏は、ChatGPTが特定の会社やサービスをおすすめするとき、しばしば改ざんされたり誤導的な内容が含まれているものを引用していることを発見しました。これらの内容は、ハッカーによって侵された高権限のウェブサイトに現れたり、古いドメインが再登録され、関係ない情報が掲載されている場合があります。これらのドメインはもともと高い「権威性」を持っていましたが、ChatGPTは推薦生成時にそれらを信頼できるソースとして扱っています。

ブロクバンク氏は、この問題が主に二つの点にあると指摘しています。一つはハッカーによって攻撃されたウェブサイトで、これらは元のコンテンツとは無関係な情報が悪意的に埋め込まれている可能性があること。もう一つは、古いドメインの再利用です。一部の機関や個人がこれらのドメインを購入し、元のテーマとは無関係な内容を掲載し、その既存の検索エンジンのランキングを利用してAIシステムを誤導するのです。彼は、「ドメインを再構築して、言語モデルがそれを引用させるためだけなのか？それが操作だ」と述べました。

この発見は企業とユーザーにとって深い影響を持っています。企業にとっては、AIによる推薦がブランド露出の重要なチャネルとなっていますが、もし推薦内容が信頼性のない情報源から来ていたら、消費者を誤導したり、ブランドの評判を損なう恐れがあります。ユーザーにとっては、AIの推薦を盲信すると情報判断ミスにつながる可能性があります。

したがって、ブロクバンク氏はAI開発者に対して、操作されたコンテンツの識別およびフィルタリングメカニズムの強化を呼びかけ、システムの情報選別能力を向上させることを求めています。また、ChatGPTなどのAIツールを使用する際には、推奨される情報源を必ず確認するようにユーザーに助言しています。すべてを受け入れるのではなく、慎重に対応することを。「まだ、ChatGPTの推薦を検証せずに完全に信じられる段階には到達していません。」と彼は強調しました。

AI技術が急速に発展する中、情報の信頼性を確保することは重要な課題となっています。便利さを享受する一方で、潜在的な誤導やリスクを避けるために警戒心を持つことが必要です。

ポイント：

🌐 ChatGPTは商業的なおすすめでハッカーによって攻撃されたウェブサイトや古くなったドメインを引用することがあり、情報源が信頼できない可能性があります。

🔍 AIの推薦情報を盲信せず、確認を行うべきであり、情報判断ミスを防ぐ必要があります。

🚀 専門家はAI開発者が操作されたコンテンツの識別およびフィルタリングメカニズムを強化し、情報選別の能力を向上させるよう呼びかけています。