隨着全球人工智能的爆發式發展,各國對大模型的監管正由早期的原則性宣言走向實質性落地。英國、美國和澳大利亞等多國政府近期相繼推出新舉措,要求前沿AI模型在正式公開發布前,必須通過由政府主導的安全漏洞與風險邊界測試。
英國模式成爲全球政策樣板
在這場監管轉型中,英國AI安全研究院(AISI)提出的紅隊測試與風險評估流程已成爲各國的參考樣板。日前,英國政府宣佈與澳大利亞AI安全研究院達成正式合作,雙方將聯合跟蹤前沿AI在網絡攻擊與防禦領域的潛在風險,並共享核心的能力洞察。
這種新型監管模式徹底改變了過去僅依賴企業自願承諾的被動局面,將政府力量直接引入到了模型的測試流程中。未來,AI大模型在面臨市場競爭的同時,必須首先通過這一套類似於“上線前安檢”的合規流程,安全測試能力正逐漸演變爲產品核心競爭力的重要組成部分。
美系巨頭簽約加入國家級評估
與此同時,美國商務部下屬的AI標準與創新中心(CAISI)也在加速推進類似的國家安全評估機制。目前,谷歌DeepMind、微軟以及馬斯克旗下的xAI等多家前沿AI巨頭已與該中心達成關鍵協議,承諾在模型公開發布前提交相關材料並接受深度安全評估。
微軟公司在此期間也明確表示,將同時深化與美國和英國測試機構的合作,共同降低前沿模型引發的大規模公共安全風險。這一系列密集的國際合作釋放出明確信號,未來的AI監管將不再只是詢問企業是否寫下安全承諾,而是更加關注“是否真的有人親自測試過”。
