根据奇安信集团发布的《2024人工智能安全报告》，2023年基于AI的深度伪造欺诈激增3000%，同时基于AI的钓鱼邮件增长了1000%。报告指出多个有国家背景的APT组织利用AI实施了十余起网络攻击事件，预测人工智能技术的恶意使用将快速增长，对网络安全、物理安全和军事安全等方面构成威胁。