近期，SEO 專家詹姆斯・布羅克班克在測試中發現，人工智能工具 ChatGPT 在提供商業推薦時，可能引用了不可靠的信息來源，包括被黑客攻擊的網站和過期的域名。這一現象引發了業內人士的關注，提醒用戶在使用 AI 工具時，務必對其推薦信息進行覈實。

OpenAI，ChatGPT，人工智能，AI

在測試中，布羅克班克發現，ChatGPT 在推薦某些公司或服務時，有時引用了被篡改或誤導性的內容。這些內容通常出現在被黑客入侵的高權重網站上，或是已經被重新註冊並用於發佈無關信息的過期域名。由於這些域名原本具有較高的 “權威性”，ChatGPT 在生成推薦時仍然將其視爲可信來源。

布羅克班克指出，這種情況主要有兩個方面的問題:一是被黑客攻擊的網站，這些網站可能被惡意植入與原內容無關的信息;二是過期域名的再利用，一些機構或個人會購買這些域名，併發布與原主題無關的內容，藉助其原有的搜索引擎權重誤導 AI 系統。他表示:“重建一個域名，僅僅是爲了讓語言模型引用它?這就是操控。”

這項發現對企業和用戶都有着深遠的影響。對於企業來說，AI 推薦已成爲品牌曝光的重要渠道，但如果推薦內容來自不可靠的信息源，可能會誤導消費者，甚至損害品牌聲譽。而對於用戶而言，盲目信任 AI 的推薦可能導致信息判斷的失誤。

因此，布羅克班克呼籲 AI 開發者加強對操控內容的識別與過濾機制，以提升系統的信息篩選能力。他還建議用戶在使用 ChatGPT 等 AI 工具時，務必對推薦的信息來源進行覈實，而不是全盤接受。“我們還沒有到可以完全信任 ChatGPT 推薦而不加驗證的階段。” 他強調道。

隨着 AI 技術的迅速發展，如何保障信息的可靠性，已經成爲一個重要議題。用戶在享受便捷的同時，也需保持警惕，以避免潛在的誤導和風險。

劃重點:

🌐 ChatGPT 在商業推薦中可能引用被黑客攻擊的網站和過期域名，信息來源不可靠。

🔍 用戶應對 AI 推薦的信息進行覈實，而不是盲目信任，避免信息誤判。

🚀 專家呼籲 AI 開發者加強對操控內容的識別與過濾機制，提高信息篩選能力。