網絡安全研究人員發出警告，一種名爲“Slopsquatting”的新型軟件供應鏈攻擊正浮出水面。該攻擊利用生成式 AI（如 LLMs）在代碼編寫時可能產生的“包幻覺”——即推薦不存在的軟件包名稱——的漏洞。攻擊者可以搶先註冊這些虛構的名稱，並植入惡意代碼。

開發者，黑客，漏洞，攻擊

圖源備註:圖片由AI生成，圖片授權服務商Midjourney

研究團隊發現，AI 虛構的軟件包名稱往往具有高度可信性和重複性，約38% 的幻覺包名與真實包名相似，僅13% 是簡單拼寫錯誤，這使得開發者在不加驗證的情況下更容易直接採用。

通過對16個代碼生成模型的測試，研究人員發現平均20% 的 AI 推薦軟件包是僞造的。開源模型的幻覺率更高，例如 DeepSeek 和 WizardCoder 高達21.7%，而商業模型如 GPT-4Turbo 的幻覺率相對較低，爲3.59%。CodeLlama 的表現最差，超過三分之一的推薦存在錯誤。這種威脅在依賴中央包倉庫的 Python 和 JavaScript 等生態系統中尤爲嚴重。

實驗表明，AI 的“包幻覺”具有高度可復現性，高達43% 的案例中，相同的幻覺連續出現10次，58% 的幻覺會在多次測試中重複出現，這爲攻擊者精準佈局惡意軟件包提供了便利。

研究人員認爲，當前 AI 模型缺乏足夠的安全測試是造成這一問題的主要原因。儘管尚未發現實際的 Slopsquatting 攻擊案例，但該技術已具備現實威脅的所有要素。他們呼籲開發社區提高警惕，對 AI 生成的代碼建議保持審慎態度，務必進行驗證，以防成爲新型軟件供應鏈攻擊的受害者。