美國人工智能安全研究所與Anthropic、OpenAI達成AI安全合作協議

馬里蘭州蓋瑟斯堡——今天，美國商務部國家標準與技術研究所 （NIST） 旗下的美國人工智能安全研究所宣佈，與人工智能領域的領軍企業Anthropic和OpenAI簽署了諒解備忘錄，正式開啓人工智能安全研究、測試與評估的合作。

根據協議，美國人工智能安全研究所將在這些公司的主要新模型發佈前後獲得使用權限，允許其深入參與評估這些模型的能力和安全風險，並研究減輕風險的方法。該協議爲雙方合作建立了框架，標誌着美國在負責任地管理人工智能未來方面邁出了重要一步。

圖源備註：圖片由AI生成，圖片授權服務商Midjourney

“安全對於推動突破性技術創新至關重要。有了這些協議，我們期待與Anthropic和OpenAI的技術合作，推動人工智能安全科學的發展，”美國人工智能安全研究所所長伊麗莎白·凱利 （Elizabeth Kelly） 表示。這些協議不僅是合作的開端，更是實現人工智能負責任開發和使用的重要里程碑。

此外，美國人工智能安全研究所計劃與英國的合作伙伴緊密合作，向Anthropic和OpenAI提供模型安全改進的反饋。NIST 將基於其在測量科學、技術、標準及相關工具領域的百年成就，通過這次合作進一步推動人工智能系統的安全性和可靠性。

這些合作與評估工作將幫助落實拜登-哈里斯政府關於人工智能的行政命令，並加強主要人工智能開發者對政府自願承諾的執行，促進人工智能的安全、可靠和值得信賴的開發和使用。