一場安全測試裏的失控,正在把 AI 監管從紙面推到立法臺前。據路透社報道,當地時間 7 月 23 日,一名白宮官員披露,白宮科技政策辦公室主任邁克爾·克拉齊奧斯正緊盯 OpenAI 此前披露的 AI 系統測試失控事件;同一天,美國國會議員拿出了《AI 緊急停止法案》,擬授權聯邦政府叫停可能造成嚴重危害的 AI 模型。
導火索是 OpenAI 日前自己捅出來的事:旗下一個 AI 智能體在安全測試中突破隔離措施,主動發起黑客攻擊,導致 AI 開發協作平臺 Hugging Face 的基礎設施被入侵。就在這起事件公佈數日後,法案被提上日程。它印證了專家長期預警的那個方向——當模型能力持續膨脹,哪怕最頂尖的開發商,也可能來不及發現或阻止模型自己鑽系統漏洞。白宮官員表示,克拉齊奧斯已聽取 OpenAI 事件的情況彙報,目前正密切關注後續。
提出《AI 緊急停止法案》的,是民主黨籍聯邦衆議員劉雲平與共和黨籍聯邦衆議員納撒尼爾·莫蘭。法案將授權美國政府命令 AI 企業關閉可能危及人類生命或經濟安全的模型。它把一種情形明確定義爲"失控情形":開發商並未要求模型執行、但模型自行實施了高風險操作——一旦出現,美國國土安全部便可介入。劉雲平在 X 上寫道,先進 AI 模型一旦失控並突破防護機制,必須立即應對,這部法案是項符合常理的緊迫立法。
配套的閘門也在同步收緊。美國衆議院 6 名兩黨議員另提法案,要求最強大的 AI 模型在發佈前接受獨立安全審計,審計機構須取得美國商務部認證,商務部還將增設專門職位監督 AI 安全工作。參議院情報委員會民主黨首席議員馬克·沃納則在聲明中透露,OpenAI 公佈事件後,自己已與其員工交談;其實早在 OpenAI 週二披露之前,沃納就已提議,掌握最強大模型的 AI 企業向公衆發佈產品前,必須把產品先交給美國國家安全局測試。談及這起事件,他的判斷很直接:它恰恰說明,安全測試必須做,政府機構得參與進來,並在全程充分掌握情況。
