近年來，從語音助手到自動駕駛技術，AI已深入到生活的方方面面。然而，AI技術的廣泛應用也帶來了一些潛在的風險，其中深度僞造技術引發了社會關注。

深度僞造技術利用算法生成高度逼真的虛假內容，通過學習大量真實數據，生成與人物或場景極爲相似的視頻或圖像。儘管這一技術展示了AI的強大，但也滋生了欺詐行爲。例如，近期出現了冒用張文宏醫生形象和聲音進行直播帶貨的事件。僞造視頻中，合成人像宣稱某產品，致使超過1200件商品售出。此事引發張文宏醫生和社會公衆的強烈不滿。

AI,人工智能，機器人，數字人

圖源備註:圖片由AI生成，圖片授權服務商Midjourney

上海市消費者權益保護委員會副祕書長唐健盛表示，這類通過AI技術冒用名人形象的行爲，已構成對消費者權益的嚴重侵害。類似案例還包括國慶期間有人使用雷軍頭像製作惡搞視頻，以及冒用劉德華聲音用於吸引流量。相關企業和名人已發聲警示公衆提高警惕。

專家指出，目前AI技術能輕鬆克隆他人面部和聲音，且生成的內容逼真度極高。然而，這類技術並非毫無破綻。通過仔細觀察人臉與背景的融合度或聲音與口型的匹配度，仍能發現異常。此外，實時直播目前難以通過此類技術實現。

法律界人士明確表示，未經授權利用他人形象或聲音的行爲已涉嫌違法。中國政法大學副教授朱巍強調，根據《民法典》，這種行爲侵犯了人格權;根據《網絡安全法》，相關內容屬於違法信息，發佈者甚至可能面臨刑事責任。

對於消費者而言，若因AI假冒名人帶貨而購買商品，可依據《消費者權益保護法》要求商家“退一賠三”，賠償金額最低爲500元。與此同時，短視頻平臺也應負起監管責任，加強對相關內容的審覈與處罰力度，避免違法信息大範圍傳播。

深度僞造技術的興起，提醒公衆在享受AI便利的同時，也需對其潛在風險保持警惕。