據 CNBC 報道，當地時間 28 日，代表硅谷選區的民主黨聯邦衆議員羅·康納準備提交一項 AI 監管法案。其中最硬的約束是：在政府建立安全防護機制、監管機構點頭之前，AI 模型不得進行遞歸式自我改進，也不能擅自改寫自身的核心目標、遏制手段或關停控制。

設新機構、上獨立審計，芯片也管

康納把這份提案命名爲《人類控制 AI 法案》。他在採訪中直言："文明滅絕的風險是真實存在的。失控的安全隱患和濫用風險，兩者都得認真看待。"按法案設想，聯邦政府要先立規矩並經監管方批准，企業才被允許推進相關活動；在此之前，前沿模型的自我迭代通道被直接鎖死。

爲確保執行，法案計劃新設一個聯邦機構，專門負責制定 AI 安全監管規定，用許可制度審批模型的訓練與部署，並對前沿模型開展審計、設定安全標準，保證它們持續受測、始終處在有效的人類掌控之中。每一家前沿實驗室還必須配獨立審計人員，且直接向這個新機構彙報。

新機構還要拉出一份具體的安全清單：沙盒測試環境、把測試環境與互聯網物理隔離、緊急關停開關，以及防止模型逃出實驗室後在網上自行運行的控制手段。連實驗室手裏的高端芯片也被納入監管視野，要建立監測或管控芯片使用的機制。

出事即追責，員工關護欄也犯刑

在懲罰層面，法案同樣不留情面。若部署的 AI 模型導致平民羣體遭到毀滅，將被列爲"危害人類罪"並追究刑事責任。公司內部人員若私自關掉防護措施、緊急開關、日誌記錄或遏制系統，或是明知某套系統未經授權仍將其上線，同樣面臨刑事處罰。此外，企業想發佈模型，還得先持有覆蓋面廣泛的責任保險。

康納稱，這是迄今提出的"最全面的 AI 安全立法"，其思路主要來自他與多家獨立非營利 AI 安全組織的交流，而非大公司高管的訴求。"我希望它成爲範本，讓 AI 安全界有發聲渠道。他們一直被不公平地當成在談科幻、沒被真正重視……這場討論該由安全界來主導，而不是前沿實驗室的高管。"