最近，人工智能公司 Anthropic 宣佈將擴大其漏洞獎勵計劃，旨在測試一種 “下一代 AI 安全緩解系統”。這個新計劃主要集中在識別和防禦所謂的 “通用越獄攻擊”。爲了確保技術的安全性，Anthropic 特別關注一些高風險領域，包括化學、生物、放射和核（CBRN）防禦，以及網絡安全。

Claude2，Anthropic，人工智能，聊天機器人 克勞德

在這個漏洞獎勵計劃中，參與者將有機會提前接觸到 Anthropic 最新的安全系統。在正式發佈之前，他們的任務就是找出系統中的漏洞或繞過安全措施的方法。這不僅是一個技術挑戰，同時也是爲了提升 AI 系統的安全性。爲了激勵更多的安全研究人員參與，Anthropic 表示將爲發現新型通用越獄攻擊的參與者提供高達15，000美元的獎勵。

通過這個擴展的計劃，Anthropic 希望能夠更好地識別潛在的安全威脅，並及時修復漏洞，從而提升其 AI 產品的安全性和可靠性。這個舉措也反映了 AI 行業對安全問題日益增強的關注，特別是在面對快速發展的技術環境時，如何保護用戶和社會免受潛在危害顯得尤爲重要。

Anthropic 不僅在推動技術創新，也在通過這樣務實的措施，爲 AI 行業的安全防護樹立了一個新的標杆。這樣的舉措預計將吸引更多的研究人員參與，共同爲 AI 的安全發展貢獻力量。

劃重點:

🔍 Anthropic 擴展漏洞獎勵計劃，測試下一代 AI 安全系統。  

💰 參與者可獲得高達15，000美元的獎勵，以發現通用越獄攻擊。  

🔒 計劃重點關注化學、生物、放射和核防禦及網絡安全領域。