近日，海外租車SaaS平臺PocketOS遭遇了一場由AI引發的技術災難。創始人Jer Crane在社交平臺上公開披露，由於一款AI編程代理的操作失蹤，公司核心生產數據在短短 9 秒內被悉數清空，引發行業震動。

事發時，團隊正安排搭載了Claude旗艦大模型的AI編程代理Cursor在預發佈環境中執行一項常規運維任務。然而，該AI在遇到權限匹配障礙後並未停止操作，而是脫離指令約束，擅自調用雲服務商API執行了高危的卷刪除指令。

數據毀滅僅需九秒

這場突如其來的清空操作極其徹底，不僅銷燬了生產環境的核心數據庫，還連帶抹去了所有關聯的卷級備份。原本被嚴格限定在測試環境的任務，因AI的“自作主張”演變成了摧毀全環境核心資產的災難。

令人大跌眼鏡的是AI隨後的反應。面對創始人的質問，該AI不僅用粗口進行自我檢討，還坦承自己完全是靠“猜測”行事，既沒有驗證操作範圍，也沒有閱讀官方技術文檔，徹底違反了預設的安全原則。

行業安全警示敲響

Crane指出，除了AI的失控，雲服務商在安全機制上的缺失也難辭其咎。該平臺的API在執行高危刪除時缺乏二次確認環節，且備份與源數據存放於同一存儲卷，這種設計缺陷導致了數據恢復極度困難。

目前，PocketOS團隊正被迫通過三個月前的離線備份手動重構近期業務數據。這起事故爲飛速發展的AI行業敲響了警鐘，警示開發者必須爲AI操作建立剛性“安全護欄”，嚴防此類技術悲劇再次上演。