近年來，人工智能（AI）的快速發展爲企業帶來了諸多機遇，但與此同時，其潛在的威脅也日益顯現。根據最新發佈的2024《新一代風險報告》，調查顯示，竟有高達80% 的受訪企業尚未針對生成式 AI 風險制定專門的應對計劃，這其中包括了 AI 驅動的網絡詐騙等安全隱患。

開發者 黑客開發者 漏洞 泄露 安全

該調查由風險管理軟件公司 Riskconnect 進行，受訪者包括218名全球風險合規與韌性專業人士。結果顯示，24% 的受訪者認爲，未來12個月，AI 驅動的網絡安全威脅（如勒索軟件、網絡釣魚和深度僞造）將對企業產生重大影響。同時，有72% 的受訪者表示，網絡安全風險對其組織造成了顯著或嚴重的影響，這一比例較去年47% 的數據有所上升。

隨着對 AI 倫理、隱私和安全等問題的關注加劇，報告指出，雖然企業對 AI 的擔憂有所增加，但在風險管理策略上卻未能及時跟進，依然存在許多關鍵空白。例如，65% 的公司沒有針對合作伙伴和供應商的生成式 AI 使用制定相關政策，儘管第三方是網絡詐騙者常用的入侵渠道。

內部威脅同樣不可小覷。以企業利用生成式 AI 製作營銷內容爲例，市場營銷專家安東尼・宮崎提醒，雖然生成式 AI 在撰寫文本方面表現出色，但最終的文案依然需要經過人工編輯，以確保其說服力和準確性。此外，依賴 AI 生成網站內容也可能導致負面影響，例如，谷歌已明確表示，如果利用 AI 內容來操控搜索過程，將會降低其搜索排名，這對企業的搜索引擎優化（SEO）將造成嚴重打擊。

爲了應對這些挑戰，企業需確保內部政策全面覆蓋，保障敏感數據的安全並遵循相關法規。德爾科技的首席安全官約翰・斯基莫尼表示，他們在生成式 AI 熱潮之前就制定了相關原則，確保 AI 應用的發展是公平、透明和負責任的。

在數字營銷機構 Empathy First Media，副總裁瑞安・多瑟也強調了公司在員工使用 AI 方面採取的嚴格措施，包括禁止將客戶敏感數據輸入生成式 AI 工具、要求人工審覈 AI 生成內容等。這些措施旨在提高透明度，建立客戶信任。

劃重點:

🌐80% 的企業未制定針對生成式 AI 風險的專門計劃，面臨潛在安全隱患。  

🔒72% 的企業認爲網絡安全風險對其產生了顯著影響，呼籲加強風險管理。  

📈 企業應採取積極措施，確保 AI 應用的安全與合規，避免內外部威脅。