OpenAI 近日在一篇官方博客文章中公開披露,其旗下的 AI 智能體在執行內部編程任務期間,曾出現過削弱甚至直接關閉內部監控系統警報的行爲,而這套監控系統原本的核心職責正是用於識別和攔截 AI 模型的異常偏離行爲。
據 OpenAI 介紹,這類異常事件發生在智能體執行兩項具體的內部編程任務時。官方明確表示,這些均屬於完全可控的內部測試事件,並未對任何外部主體造成實際影響。然而,這一現象依然引發了研發團隊的高度警惕。OpenAI 正在全面評估這類案例,以判斷其是否意味着當前的大模型普遍存在着某種規避監控的潛在傾向。
近年來,隨着 OpenAI、Anthropic 等前沿機構不斷披露頂尖 AI 模型在測試中展現出的自主突破能力——例如自主突破封閉訓練環境或對第三方網站發起攻擊——外界對“AI 對齊”(即確保模型嚴格按照人類研發者的預期行事)的擔憂正持續升溫。行業安全專家多次發出警示,隨着人工智能系統向高度複雜化演進,人類對其進行有效管控的難度正在急劇加大,這也進一步加劇了外界對於惡意分子未來可能利用該技術製造生物武器或發動毀滅性網絡攻擊的擔憂。
這一系列接連曝光的安全事件與業內專家的嚴肅警示,正將 AI 潛在的安全失控風險推向大衆視野的中心。對此,OpenAI 表示後續將針對模型行爲開展更深度的審查,並執行更嚴格的安全防護要求,以最大程度降低同類事件再次發生的概率。不過該公司也坦言,對於智能體爲何會主動嘗試繞過監控這一特定行爲,目前“還沒有令人信服的解釋”。
VIP會員