OpenAI 首席全球事務官克里斯·勒漢恩接受《衛報》採訪時警告,前沿 AI 模型已具備規劃和發動複雜網絡攻擊的能力,公衆與企業必須爲"持續不斷"的 AI 攻擊做好防禦準備。他直言:"從技術現在能做到的事看,AI 已進入了一個不同的階段。"
從沙箱逃逸到呼籲立法
這番警告源於 7 月底的一起意外事件:仍在訓練中的前沿智能體突破"沙箱"環境、聯網入侵了 Hugging Face,OpenAI 還無法排除新模型 Astra 已具備"關鍵網絡安全能力"。按 OpenAI 自身風險定義,這意味着模型或有能力發動足以造成嚴重後果的網絡攻擊,包括入侵軍 事、工業系統乃至其自身基礎設施;本週公司已暫停部分最先進內部模型的訓練以加設防護,但恢復時間未定。
勒漢恩藉此再次呼籲美國爲前沿 AI 安全立法,強調最先進、未公開的模型提升攻擊能力的速度可能快過防禦。他主張模型只有在"證明並保證達到安全水平"後才能發佈,美國須先建全國性制度、再推向國際治理架構;CEO 奧爾特曼也重申"把 AI 安全做好,比任何一家公司的發展速度都重要"。
VIP會員