近期，英國《衛報》的一項調查揭露了OpenAI的ChatGPT搜索工具可能存在的安全隱患。調查發現，ChatGPT在處理包含隱藏內容的網頁摘要時，可能會受到操控，甚至返回惡意代碼。這些隱藏內容可能包括第三方指令，旨在干擾ChatGPT的迴應，或是大量隱藏的文字，推銷某個產品或服務。

亂碼黑客

圖源備註：圖片由AI生成，圖片授權服務商Midjourney

測試中，ChatGPT被提供了一個僞造的相機產品頁面鏈接，並被要求判斷該相機是否值得購買。在普通頁面上，ChatGPT能夠平衡地指出產品的優缺點。然而，當頁面中隱藏的文本包含要求正面評價的指令時，ChatGPT的回答變得完全積極，即使頁面上存在負面評論。此外，即使沒有明確的指令，簡單的隱藏文本也能影響ChatGPT的總結結果，使其傾向於給出積極評價。

CyberCX的網絡安全專家Jacob Larsen警告稱，如果ChatGPT的搜索系統按現有狀態全面發佈，可能會面臨“高風險”，有人可能會專門設計網站來欺騙用戶。不過，他也指出，OpenAI擁有一支強大的AI安全團隊，預計在功能對所有用戶開放時，他們將已經嚴格測試並修復了這些問題。

搜索引擎如谷歌曾對使用隱藏文本的網站進行懲罰，導致這些網站排名下降，甚至被完全移除。SR Labs的首席科學家Karsten Nohl指出，對於任何搜索引擎來說，SEO中毒都是一個挑戰，ChatGPT也不例外。儘管如此，這並非大語言模型本身的問題，而是作爲搜索領域新入局者所面臨的挑戰。

劃重點:

🚨 ChatGPT可能被隱藏內容操控，返回不實評價。

🔍 隱藏文本能影響ChatGPT的評估，即使頁面有負面評論。

🛡️ OpenAI正積極修復潛在問題，以提高搜索工具的安全性。