AI技術如同一把雙刃劍，既能帶來便利，也可能造成風險。爲了更好地管理這些風險，加州州長加文·紐森（Gavin Newsome）近期簽署了九項法案，專門針對AI生成內容，尤其是深度僞造(deepfakes)現象進行規範。

辦公桌 起訴 法律 (2)

圖源備註:圖片由AI生成，圖片授權服務商Midjourney

在這些法案中，SB1047法案特別引人注目，它要求AI開發者必須採取安全措施，以減少技術可能引發的災難性事件，比如大規模傷亡或網絡攻擊。紐森州長尚未明確表示對該法案的態度。AB2602和AB1836兩項法案則聚焦於保護演員和表演者的權益。

AB2602規定，使用AI生成的表演者聲音或形象時，必須簽訂合同，並且表演者需有專業代表參與談判。

AB1836則禁止未經已故表演者家屬同意，將其深度僞造的形象用於商業影視作品中。

紐森表示:“我們一直在探索AI和數字媒體如何改變娛樂產業，但我們的核心始終是保護工作人員。這些法案確保了該行業可以繼續繁榮發展，同時加強了對工作人員的保護。”

法案還包括打擊AI生成內容濫用的措施:

如SB926將製造和分發看似真實的色情圖片定爲犯罪行爲;

SB981要求社交媒體平臺創建舉報機制，對用戶舉報的色情深度僞造內容進行處理;

SB942則要求AI系統在生成的內容中加入隱形水印，並提供檢測工具。

在選舉活動中，AB2655、AB2839、AB2355和AB2905四項法案旨在打擊深度僞造和其他欺騙性數字內容的使用，以保護選舉的公正性和透明度。

AB2655要求大型在線平臺在選舉前後的特定時期內刪除或標記欺騙性或數字更改的政治內容，並要求它們提供舉報方式。 

 AB2839擴大了政治實體被禁止分發含有欺騙性AI生成內容的廣告或其他選舉材料的時間範圍。

 AB2355要求使用AI生成內容的政治廣告披露材料已被更改。 

 AB2905要求自動撥號電話通知接收者是否爲人工生成的聲音。

紐森強調:“保護選舉的完整性對民主至關重要，我們必須確保AI不會被用來通過虛假信息破壞公衆的信任。這些措施將有助於打擊政治廣告中深度僞造的有害使用。”

劃重點:

📜 紐森簽署九項法案，加強AI生成內容規範。

🎭 保護演員和表演者的數字形象，防止未授權AI使用。

🔍 打擊AI生成的色情內容和選舉活動中的欺騙性信息。