2025中國互聯網大會現場報道:在備受矚目的2025中國互聯網大會上，當被問及大模型在落地應用過程中可能存在的風險時，360集團創始人周鴻禕深入剖析了人工智能時代下網絡安全面臨的全新挑戰。他指出，相較於傳統的IT系統漏洞和數據隱私泄露問題，大模型帶來的三大安全風險更應引起高度警惕。

黑客 網絡攻擊 (1)

核心風險一:大模型的“幻覺”與胡言亂語

周鴻禕強調，大模型固有的“幻覺”問題是其最大的風險之一。他解釋說，當大模型遇到不理解的事物時，會一本正經地編造信息。雖然這在娛樂場景中尚可一笑置之，但當大模型及其衍生的智能體開始深入工業生產、製造以及政府辦公等關鍵領域時，這種“出錯”將可能導致嚴重後果。他特別指出，一旦智能體具備了操縱各種工具的能力，其錯誤判斷的危害和影響將成倍放大。

核心風險二:大模型降低攻擊門檻，人人皆可“注入攻擊”

周鴻禕提出的第二個風險是，大模型極大地降低了網絡攻擊的門檻。他指出，大模型使得非編程專業人員也能通過簡單的自然語言交互來編寫程序，這同時也意味着攻擊大模型的門檻也隨之降低。通過精心構造的指令，攻擊者可以誘導大模型泄露企業機密文件，這種現象被稱爲“注入攻擊”。周鴻禕形象地表示，未來甚至一個不具備編程知識的前臺員工，都可能因爲不滿而對公司的大模型和智能體發動攻擊。

核心風險三:國家級高級威脅攻擊的智能化升級

從更宏觀的未來視角來看，周鴻禕指出，大模型將使國家級高級威脅攻擊變得更加普遍和複雜。過去，針對我國的網絡黑客數量相對較少，但現在，黑客正嘗試將自身的能力和經驗嵌入大模型，把自己打造成“黑客智能體”。在擁有足夠算力支持的情況下，一個黑客可以同時操縱數十甚至數百個智能體，這將徹底顛覆傳統的網絡攻防格局，使網絡安全從“人與人”的對抗，轉變爲“人與算法、人與機器、人與算力”的對抗，因爲機器人數字黑客只需要算力，不需要休息。

360的應對策略:“以算法對抗算法”

面對這些嚴峻挑戰，周鴻禕表示，360已着手採取兩項關鍵措施來應對:

首先，360正在積極打造智能體安全專家。這些專家能夠幫助企業在面對攻擊時，實現實時檢測和實時防禦，從而真正做到“以算法對抗算法”。

其次，針對大模型的安全性和易受攻擊性，360開發了專門的**“大模型衛士”**。這是一款專業的大模型和智能體，其主要功能是監控發送給大模型的指令，並評估大模型輸出內容的合理性和準確性。此外，結合強大的搜索能力和企業知識庫，該衛士還能最大限度地降低大模型的“幻覺”問題。