微軟近日發佈了一份白皮書，深入分析了生成式人工智能（AI）被惡意利用的情況，包括詐騙、兒童性虐待材料、選舉操控以及非自願的私人影像等問題。該公司強調，這些問題不僅是技術挑戰，更是對社會的重大威脅。

人工智能 AI 機器人 機械手 (1)

圖源備註：圖片由AI生成，圖片授權服務商Midjourney

根據微軟的白皮書，犯罪分子正愈發利用生成式 AI 的能力來實施惡行。這些惡性行爲包括利用 AI 生成的虛假信息進行詐騙、創建兒童性虐待材料、通過深度僞造技術進行選舉操控，以及製造非自願的親密影像，這些影像尤其會針對女性。微軟外部事務副總裁休・米爾沃德表示:“我們永遠不能忘記，濫用 AI 對真實的人產生深遠影響。”

該白皮書特別針對英國的政策制定者，提出了一套基於六個核心要素的綜合解決方案，以應對上述問題。這六個要素包括:強有力的安全架構、媒體的永久來源和水印工具、現代化的法律以保護公衆、行業與政府和民間社會之間的強有力合作、對服務的濫用保護，以及公衆教育。

在針對英國政策制定者的具體建議中，微軟呼籲要求 AI 系統提供者在用戶與 AI 系統交互時，必須告知用戶該內容是由 AI 生成的。此外，微軟建議實施先進的來源標記工具來標記合成內容，政府也應通過對其媒體內容進行真實性驗證，樹立榜樣。微軟還強調，需要新法律來禁止通過 AI 工具進行的欺詐行爲，以保護選舉的公正性。同時，保護兒童和女性免受在線剝削的法律框架也應當加強，包括將性深度僞造的製作行爲定爲犯罪。

微軟還指出，存儲指示媒體是否由 AI 生成的元數據技術非常重要。類似的項目已經由 Adobe 等公司在推進，這些項目旨在幫助人們識別圖像的來源。然而，微軟認爲像 “內容憑證” 這樣的標準需要政策措施和公衆意識才能發揮效果。

此外，微軟與 StopNCII.org 等組織合作，開發檢測和移除濫用圖像的工具。受害者可以通過微軟的中央報告門戶進行維權。而針對年輕人，失蹤與被剝削兒童國家中心提供的 “Take It Down” 服務也提供了額外支持。米爾沃德表示:“濫用 AI 的問題可能會長期存在，因此我們需要加倍努力，與科技公司、慈善夥伴、民間社會和政府進行創造性合作，以應對這一問題。我們無法單打獨鬥。”

劃重點:  

🛡️ 微軟發佈白皮書，揭示生成式 AI 被惡意使用的多種方式，包括詐騙和選舉操控。  

📜 針對英國政策制定者，微軟提出六大要素的解決方案，呼籲法律和技術的綜合保護。  

🤝 強調與各方合作的重要性，微軟呼籲共同努力應對濫用 AI 帶來的挑戰。