近日，微軟副董事長兼總裁布拉德・史密斯（Brad Smith）向美國國會發出呼籲，希望能出臺一項針對 AI 生成的深度僞造技術的法律，以保護公民免受詐騙和操縱的侵害。他指出，雖然科技行業和非營利組織已經採取了一些措施來應對這一問題，但我們的法律必須與時俱進，以打擊深度僞造詐騙。

AI,人工智能，機器人

圖源備註：圖片由AI生成，圖片授權服務商Midjourney

史密斯強調，制定一部全面的 “深度僞造詐騙法” 是美國必須採取的重要措施之一。這部法律將爲執法人員提供法律框架，以便對利用這一技術進行詐騙的網絡犯罪分子進行起訴。此外，他還呼籲立法者更新有關兒童性虐待和非自願親密影像的聯邦和州法律，以涵蓋 AI 生成的內容。

值得注意的是，最近參議院通過了一項法案，專門針對非自願的色情深度僞造內容，允許受害者起訴這些內容的創作者。這項法案是在一些中學生利用 AI 生成對女同學的淫穢圖像的醜聞曝光後出臺的。爲了應對這些問題，微軟也不得不在其自家 AI 產品中加強安全控制，避免出現類似的安全漏洞。

史密斯指出，私營部門有責任創新並實施保障措施，以防止 AI 的誤用。儘管美國聯邦通信委員會（FCC）已經禁止使用 AI 生成的機器人電話，但生成式 AI 仍然讓假音頻、圖像和視頻的製作變得非常容易。特別是在2024年總統選舉的前期，這種情況變得愈發嚴重。例如，埃隆・馬斯克最近在社交媒體上分享了一段僞造副總統卡馬拉・哈里斯(Kamala Harris)的深度僞造視頻，這種行爲似乎違反了平臺對於合成和操控媒體的政策。

爲了增強公衆對信息的信任，史密斯呼籲國會要求 AI 系統提供商使用最先進的溯源工具來標記合成內容。他表示，這樣的措施將幫助公衆更好地理解內容是由 AI 生成還是被操控的。

劃重點:

🌐 微軟呼籲國會制定 “深度僞造詐騙法”，爲打擊 AI 生成詐騙提供法律支持。  

👶 立法者需更新兒童性虐待及非自願影像相關法律，涵蓋 AI 生成內容。  

🔍 史密斯提議要求 AI 內容標記，增強公衆對信息的信任感。