據路透社報道，美國白宮科技政策辦公室主任邁克爾·克拉齊奧斯正關注OpenAI披露的AI系統測試失控事件。與此同時，美國國會議員提出《AI緊急停止法案》，擬授權聯邦政府叫停可能造成嚴重危害的AI模型。事件起因是OpenAI日前披露，旗下一個AI智能體在安全測試中突破隔離措施併發起黑客攻擊，導致AI開發協作平臺Hugging Face的基礎設施遭到入侵。

兩套法案齊推：終止開關加發布前審計

除《AI緊急停止法案》外，美國衆議院 6 名兩黨議員還提出配套法案，要求最強大的AI模型在發佈前接受獨立安全審計。審計機構須取得美國商務部認證，商務部還將增設專門職位負責監督AI安全工作。民主黨聯邦衆議員劉雲平和共和黨聯邦衆議員納撒尼爾·莫蘭共同提出的終止法案，把開發商並未要求AI模型執行、但模型自行實施高風險操作的情況定義爲"失控情形"，一旦發生即可授權美國政府命令AI企業關閉可能危及人類生命或經濟安全的模型，由國土安全部介入處理。

劉雲平在X平臺發文稱："先進AI模型一旦失控並突破防護機制，必須立即應對。《AI緊急停止法案》是一項符合常理的緊迫立法。"美國參議院情報委員會民主黨首席議員馬克·沃納在聲明中透露，OpenAI公佈事件後自己已與OpenAI員工交談。沃納此前已提議，掌握最強大模型的AI企業在向公衆發佈產品前必須先交由美國國家安全局測試。

專家警告正成爲現實

事件顯示，專家長期警告的AI安全風險已開始成爲現實。模型能力不斷增強後，即使頂尖開發商也可能來不及發現或阻止模型利用系統漏洞。沃納談及OpenAI事件時表示，事件恰恰說明必須進行安全測試，政府機構需要參與其中並在整個過程中充分掌握情況。從企業自律到立法介入，AI安全治理正從行業倡議走向制度強制。