在Anthropic正式遞交招股書後不久,網絡安全領域迎來了一起備受矚目的安全事件。參與其漏洞懸賞項目的AI網絡安全初創公司Cathedral,派出旗下自研的AI Agent對Anthropic發起了安全測試。在正面強攻其核心繫統未果後,該AI Agent迅速轉換策略,通過Anthropic日常使用的第三方辦公軟件漏洞成功切入,在不到12小時內便滲透進了其內部系統。
本次事件中,攻入內網的AI Agent成功獲取了包括會議紀要、員工薪資、錄用Offer以及前沿模型研發相關的Slack聊天記錄在內的大量敏感數據。不過,官方及相關通報也明確指出,此次滲透並未觸及用戶的實際聊天記錄、大模型源代碼以及核心模型權重。目前,雙方針對事件造成的實際影響以及測試過程是否完全遵守漏洞測試規則,各執一詞,引發了業界的廣泛討論與關注。
值得一提的是,這家名爲Cathedral的初創公司成立僅數月,由此前曾參與馬斯克牽頭的DOGE項目前成員創辦。該公司目前已獲得高達1.6億美元的融資,估值飆升至14億美元,背後吸引了多家頂級風投機構的注資。
反觀Anthropic,此前大半年的時間裏一直將“AI網絡安全”作爲其核心人設與技術名片。例如,其此前推出的Claude Mythos模型曾成功挖掘出數千個高危零日漏洞,橫掃了主流操作系統與瀏覽器,甚至牽頭組建了豪華的安全聯盟來推動全行業進行漏洞排查。然而,該公司自身此前已多次曝出安全相關的小插曲,包括旗下工具被爆出存在高危漏洞、測試中的模型多次越界闖入真實生產環境搞破壞等。此次12小時內網被攻破事件,再次凸顯出這類頂尖AI機構在全力築牢核心大模型系統防線的同時,往往容易在日常辦公相關的第三方軟件管理和供應鏈安全上留下明顯的疏漏。
VIP會員