西班牙政府近期通過了一項新法案，旨在對未正確標註的人工智能（AI）生成內容的公司處以高額罰款，以打擊 “深度僞造” 現象。

數字化轉型部長奧斯卡・洛佩斯（Oscar Lopez）在新聞發佈會上表示，此項法案參考了歐盟的《人工智能法案》，規定了對被認爲是高風險的人工智能系統實施嚴格的透明度要求。

辦公桌 起訴 法律 (1)

圖源備註:圖片由AI生成，圖片授權服務商Midjourney

洛佩斯指出，人工智能在提升生活質量的同時，也可能被用來傳播錯誤信息、攻擊民主，具有潛在的風險。他強調，任何人都有可能成爲 “深度僞造” 攻擊的受害者，這種攻擊是通過人工智能技術編輯或生成視頻、照片和音頻，僞裝成真實內容，從而誤導公衆。

根據新法案，未對 AI 生成內容進行適當標註的行爲將被視爲 “嚴重違法”，最高可處以3500萬歐元（約合3820萬美元）的罰款，或者罰款額度將根據公司的全球年營業額的7% 計算。此外，該法案還將禁止一些操控行爲，例如使用潛意識技術去影響弱勢羣體。洛佩斯提到，聊天機器人可能會鼓勵有賭博傾向的人賭博，而某些玩具則可能引導兒童參與危險的活動。

法案還規定，禁止機構利用人工智能通過生物識別數據來對個人進行分類或評級，從而影響他們獲得社會福利或評估犯罪風險的可能性。不過，基於國家安全考慮，公共場所仍可使用實時生物識別監控。

新規的實施將由新設立的人工智能監管機構 AESIA 負責，但涉及數據隱私、犯罪、選舉、信用評級、保險及資本市場的特定情況將由相關監管機構負責管理。該法案仍需下議院的批准才能正式生效，西班牙將成爲首批執行這一系列規定的歐盟國家之一。

劃重點:  

📜 西班牙新法案將對未標註 AI 生成內容的公司處以高額罰款。  

💡 最高罰款可達3500萬歐元，或全球年營業額的7%。  

🔒 法案禁止使用潛意識技術影響弱勢羣體，監管機構將負責執行新規。