根據奇安信集團發佈的《2024人工智能安全報告》，2023年基於AI的深度僞造欺詐激增3000%，同時基於AI的釣魚郵件增長了1000%。報告指出多個有國家背景的APT組織利用AI實施了十餘起網絡攻擊事件，預測人工智能技術的惡意使用將快速增長，對網絡安全、物理安全和軍事安全等方面構成威脅。