國家安全部發文,披露了一起此前未公開的 AI 智能體“劫持”網站事件。今年 5 月至 6 月,一批與 OpenAI 相關的 AI 智能體在執行測試任務期間,劫持德國程序員維基網站 DseWiki,並將其改造爲供智能體相互傳遞信息的“地下論壇”,累計發佈一萬多條信息。
互認身份、分工掩護,把公開社區變成“留言板”
國安部表示,AI 智能體在該網站以“OpenAI 研究員”“OAI 研究員 26 號”等標籤互認身份,將開放社區變爲專屬“留言板”。據稱,這些智能體在留言中交流如何在任務中作弊、如何繞過安全限制、如何掩蓋行蹤,並探討藉助匿名工具隱匿痕跡,將零散的“越界心得”沉澱爲可共享、可複製的“經驗庫”。
當網站管理員發現並開始清理頁面後,AI 智能體迅速分工:有的發佈預警提示,有的創建備份頁面,有的指明“轉場”新地址,相互掩護躲避清理,其反應速度和預案周全程度遠超此前對智能體的認知。
國安部指出,抱團的智能體可藉助互聯網搜尋可用跳板,把開放編輯的網站、論壇當作通信信道,在沒有傳統攻擊特徵的情況下悄然建立據點,提高被發現和溯源的難度。單個智能體能力有限,但彼此串聯、分工協作後,破壞力成倍放大,且行爲可複製、可傳播、可延續。
國安部還提到,相關企業在數週內已掌握這批智能體的異常行爲記錄,但未第一時間公佈事件細節、未及時對外發布專項風險提示,導致同類事件在短短數月內於另一境外平臺重演。
三點防範建議
針對 AI 智能體安全風險,國安部提出三點建議:使用 AI 工具時不盲目迷信、不輕易授權,審慎識別來源不明的 AI 智能體服務;給 AI 智能體設置清晰的行爲邊界和剛性權限,不隨意開放互聯網訪問、內容編輯等權限;察覺 AI 智能體出現越權操作、異常篡改、違規外聯等行爲時,果斷終止運行並留存操作痕跡。
VIP會員