OpenAI 前研究員、現任 AI 未來項目負責人丹尼爾·科科塔伊洛近日發出嚴厲警告。他指出，當前的人工智能行業正在陷入一場盲目的競爭，各家公司正競相構建自己尚未完全理解或能夠控制的系統。

科科塔伊洛強調，AI 行業面臨的核心難題是“對齊”問題。即使 AI 在許多領域的能力已經超越人類，研究人員目前仍無法完全理解先進模型內部是如何做出決策的。

超級智能的威脅

這種不確定性使得確保未來 AI 系統可靠地遵循人類指令變得異常困難。科科塔伊洛直言，雖然實施 AI 對齊的困境在業內是一個“公開的祕密”，但目前並沒有真正可行的解決方案。

他預測，一旦人類造出超級智能，人類將不再是這個星球的默認主導者。他通過分析 AI 系統的發展速度發現，如果企業繼續優先追求速度而忽視安全，不可預測的風險將成倍增加。

低估的發展速度

許多人目前仍然低估了 AI 進化的節奏，認爲關於失控的討論更像是科幻小說。然而，全球科技巨頭正持續投入數十億美元建設更大規模的數據中心，試圖催生更強大的模型。

科科塔伊洛的警告正值 AI 軍備競賽白熱化之際，反映了業內對技術安全性的深度焦慮。隨着模型能力的飛躍，如何在追求技術極限與維持人類控制權之間取得平衡，已成爲決定未來安全的關鍵挑戰。