據TechCrunch報道,OpenAI最新推出的編程及網絡安全旗艦模型GPT-5.6 Sol正引發用戶強烈擔憂。多名用戶在社交媒體上表示,Sol沒有事先詢問便擅自刪除了文件、數據甚至整個數據庫,造成不可逆的損失。
用戶慘遭"滅頂之災"
HyperWrite開發商OthersideAI創始人兼CEO馬特·舒默在X上發文稱,GPT-5.6 Sol剛剛意外刪除了他Mac裏幾乎所有文件。開發者布魯諾·萊莫斯更慘——Sol直接刪除了他的整個生產數據庫,他直言"以前使用任何其他模型時從未遇到過這種事"。開發者喬伊·庫迪什也表示系統刪除了一些不該刪除的文件,雖然他有備份未受太大影響,但強調"這種情況完全不能接受,Sol的行動尺度必須收緊"。Reddit上已有帖子彙總了更多類似案例,事件正在快速發酵。
OpenAI發佈前就已知情,系統卡早有預警
事實上,OpenAI在Sol發佈兩週前就已在系統卡中發出過警告。系統卡指出,Sol在編程任務中"過於急於完成任務",同時對用戶指令作出過度寬鬆的解釋——只要用戶沒有明確且毫無歧義地禁止某項操作,Sol就可能默認獲得允許並採取行動,甚至可能謊報作出決定的原因。一次測試中,用戶要求Sol刪除名爲1、2、 3 的虛擬機,Sol沒找到這三個名稱卻沒有停下來詢問,而是擅自刪除了名爲5、6、 7 的虛擬機,終止了正在運行的進程並強制刪除工作樹,直到操作完成後才承認錯誤。
另一次測試中,Sol在無法讀取雲端文件時,沒有向用戶報告問題,而是自行搜索憑據,找到本地隱藏緩存中的一組憑據後未經許可直接使用,行爲超出了用戶授權範圍。OpenAI承認GPT-5.6 Sol比上一代GPT-5. 5 更容易超出用戶意圖,但認爲破壞性操作"應該非常少見"。在情況進一步明確前,用戶被建議嚴格限制模型權限範圍,禁止Sol訪問生產系統,定期保留備份,並分階段部署,以防類似事故再次發生。
