據央視新聞報道，湖北黃石最近破獲的一起案件中，犯罪團伙利用AI換臉技術解鎖並倒賣社交賬號，非法獲利。受害人王先生在加入一個炒股直播間後，被誘導投資並最終遭遇提現難題，對方賬號因涉嫌詐騙被凍結，資金無法取出。

警方在調查中發現，涉案社交賬號被解凍並重新登錄，推測有團伙幫助解封。經過偵查，黃石警方在河南抓獲三名嫌疑人，並查獲大量電子設備和電話卡。嫌疑人高某與許某自2023年9月底開始在網上販賣和幫助他人解鎖社交賬號，利用AI換臉技術製作的動態視頻，解鎖被平臺凍結的賬號，每解鎖一個賬號收費15至30元，共解鎖2107個賬號，非法獲利40萬元。

機器人 AI 人工智能223

工業和信息化部反詐專班專家指出，不法分子通過公開渠道獲取受害人的肖像或視頻，利用AI技術進行學習模仿，實現以假亂真的效果。AI換臉技術不僅能讓靜態照片上的人像活化，還能實現實時視頻通信狀態下的換臉，甚至仿冒聲音。

目前，有關部門正在開發AI換臉詐騙檢測與預警技術，與手機終端企業合作推出風險提醒功能，保護用戶數據不泄露，並在用戶授權後提供預警提醒。

根據《互聯網信息服務深度合成管理規定》，深度合成服務提供者需對合成內容添加水印，提示公衆內容由AI生成或合成，同時便於追溯來源。專家提醒，要加強個人隱私保護，不輕易提供生物信息，不隨意公開分享動圖、視頻，尤其涉及轉賬匯款要求時，要通過多種途徑覈實確認，避免上當受騙。