近日，人工智能公司 Anth 宣佈推出一款名爲 Claude for Chrome 的新功能，目前僅向1，000名 Max 計劃用戶提供測試。該功能作爲瀏覽器擴展，允許 Claude 在 Google Chrome 瀏覽器中查看網頁、點擊按鈕及填寫表單，旨在提升用戶的在線操作體驗。然而，Anthropic 提醒用戶，這項功能在正式發佈之前，仍存在一些安全漏洞需要修復。

Claude2，Anthropic，人工智能，聊天機器人 克勞德

圖源備註：圖片由AI生成，圖片授權服務商Midjourney

在安全性方面，Anthropic 指出，該功能面臨來自 “提示注入攻擊” 的重大風險。這種攻擊方式可以讓惡意用戶在網頁中嵌入隱藏指令，進而誘使 AI 模型執行有害操作。爲此，Anthropic 進行了全面的測試，覆蓋了123個測試案例，涉及29種不同的攻擊場景。測試結果顯示，在缺乏安全防護的情況下，Claude for Chrome 遭受攻擊的成功率高達23.6%。這一結果令 Anthropic 頗感擔憂，因此公司正在加緊修復相關漏洞。

爲應對這些安全風險，Anthropic 承諾將在 Claude for Chrome 正式推出之前，採取更多的安全措施，確保用戶能夠安全地使用這項功能。隨着人工智能技術的發展，確保用戶在享受便捷服務的同時，能夠避免潛在的安全隱患，已成爲該行業的共同責任。

Claude for Chrome 的推出標誌着人工智能技術在瀏覽器應用方面的重要進展，同時也提醒我們，在快速發展的科技背景下，安全性問題亟需得到重視。Anthropic 期望通過進一步的安全增強，爲用戶提供一個安全、高效的使用環境。

劃重點:

🔍 Anthropic 推出 Claude for Chrome 擴展，提升在線操作體驗。  

⚠️ 存在 “提示注入攻擊” 的安全隱患，成功率達到23.6%。  

🔧 Anthropic 承諾修復漏洞，確保用戶使用安全。