美國商務部近日宣佈將其人工智能安全研究所更名爲人工智能標準與創新中心(CAISI),這項變動標誌着該機構將重點從總體安全轉向更加專注於應對國家安全風險和減少不必要的國際監管。商務部長霍華德・盧特尼克於6月3日正式發佈了這一消息,並表示此次重組旨在 “評估和增強美國創新”,同時確保美國在國際人工智能標準中保持領導地位。
圖源備註:圖片由AI生成,圖片授權服務商Midjourney
人工智能安全研究所成立於2023年,旨在爲全球各國政府提供最佳實踐,以降低人工智能系統可能帶來的風險。該研究所與 OpenAI 和 Anthropic 等美國主要人工智能公司達成了諒解備忘錄,允許在新模型發佈前獲得使用權,並提出改進建議。2025年,拜登任期接近尾聲時,該研究所發佈了一份關於管理人工智能風險的指南草案。草案中提到的風險包括利用系統製造生物武器,以及一些更常見的有害內容,如兒童性虐待內容(CSAM)。
根據盧華德・盧特尼克的聲明,新成立的研究所將特別關注一些可證實的風險,主要包括網絡安全、生物安全以及化學武器等領域。此外,該研究所還將研究由於使用競爭對手的人工智能系統而導致的惡意外國影響,這類問題在今年早些時候對美國人工智能行業造成了震動,特別是與中國大型語言模型 DeepSeek 相關的事件。
此次重組可以被視爲特朗普政府加速美國人工智能公司擴張的一項重要舉措。在特朗普上任的第一天,他便撤銷了拜登政府的一項行政命令,該命令要求爲大型人工智能系統制定新安全標準,併發布了一份評估美國消費者和勞動力市場潛在風險的報告。與此相對,特朗普政府發佈的行政命令鼓勵在教育等領域更加廣泛地應用生成式人工智能,並推動使用煤炭爲高耗能的人工智能數據中心提供電力。此外,當前的共和黨預算法案中還包括了一項爲期10年的州級人工智能監管禁令,該條款甚至遭到特朗普黨內一些人的反對。
劃重點:
🌐 新成立的人工智能標準與創新中心(CAISI)專注於國家安全與國際標準。
🤝 研究所與 OpenAI 等主要人工智能公司合作,旨在降低人工智能系統風險。
📜 特朗普政府加速 AI 行業擴張,撤銷拜登行政命令,推動生成式人工智能應用。