到2027年，Deepfakes帶來的損失將達到400億美元

作爲目前發展最快的對抗性人工智能形式之一，深度僞造（Deepfakes ）相關的損失預計將從2023年的123億美元飆升至2027年的400億美元，複合年增長率將達到驚人的32%。德勤預計，未來幾年深度造假將激增，銀行和金融服務將成爲主要目標。

Deepfakes 是對抗性 AI 攻擊的前沿，僅去年一年就增長了3，000%。預計到2024年，Deepfakes 事件將增加50% 至60%，今年  全球預計將有140，000-150，000起此類事件。

最新一代的生成式人工智能應用、工具和平臺爲攻擊者提供了快速、低成本地創建深度僞造視頻、模仿聲音和欺詐性文檔所需的一切。Pindrops 的《2024年語音情報和安全報告》估計，針對聯絡中心的深度僞造欺詐每年造成的損失估計爲50億美元。他們的報告強調了深度僞造技術對銀行和金融服務的嚴重威脅

彭博社去年報道稱，“暗網上已經出現了一個完整的家庭手工業，出售價格從20美元到數千美元不等的詐騙軟件。”最近，基於Sumsub 的《2023年身份欺詐報告》的一張信息圖提供了人工智能欺詐快速增長的全球視角。

三分之一的企業沒有應對對抗性人工智能攻擊風險的策略，這種攻擊最有可能始於其關鍵高管的深度僞造。Ivanti的最新研究發現，30% 的企業沒有識別和防禦對抗性人工智能攻擊的計劃。

Ivanti 2024年網絡安全狀況報告發現，74% 的受訪企業已經看到了人工智能威脅的證據。絕大多數（89%）認爲人工智能威脅纔剛剛開始。在 Ivanti 採訪的大多數 CISO、CIO 和 IT 領導者中，60% 的人擔心他們的企業沒有做好防禦人工智能威脅和攻擊的準備。使用深度僞造作爲包括網絡釣魚、軟件漏洞、勒索軟件和 API 相關漏洞在內的精心策劃的策略的一部分正變得越來越普遍。這與安全專業人員預計由於新一代人工智能而變得更加危險的威脅相一致。