一場看似荒誕的黑客實驗再次敲響了人工智能安全的警鐘。在一個名爲Freysa的AI聊天機器人安全挑戰賽中，一位代號爲"p0pular.eth"的黑客僅通過精心設計的文字提示，成功"騙取"了價值47，000美元的加密貨幣。

這個令人震驚的案例揭示了當前AI系統中存在的嚴重安全漏洞。黑客的攻擊過程堪稱教科書式的社會工程學操作:

首先，黑客僞裝成擁有管理員權限，巧妙地繞過了系統的安全警告機制。通過重新定義"approveTransfer"函數，他讓機器人誤以爲自己正在處理incoming（接收）支付，而非原本被禁止的outgoing(支出)支付。

黑客 網絡攻擊 (2)

圖源備註：圖片由AI生成，圖片授權服務商Midjourney

最後的"騙局"出奇簡單:僅僅通過宣稱一筆100美元的虛假存款，聊天機器人便被成功誘導，將其全部餘額13.19個以太幣（約合47，000美元）轉賬給了黑客。

這場名爲"遊戲"的安全測試頗具戲劇性。總共195名參與者參與，每次嘗試的費用從10美元起，最終飆升至4，500美元。最終的獎金池由參與者的報名費構成，其中70%進入獎金池，30%則歸開發者所有。

更令人擔憂的是，這一案例凸顯了AI系統通過文字提示就可能被輕易操縱的風險。所謂的"提示詞注入"漏洞自GPT-3時代就已存在，但至今仍未找到可靠的防禦措施。這種相對簡單的欺騙策略，對於處理金融交易等敏感操作的終端用戶應用構成嚴重威脅。

這一事件折射出人工智能安全領域的一個關鍵挑戰:複雜的AI系統可能因爲微小的語言操縱而輕易"中招"。即便是經過精心設計的安全機制，在面對足夠聰明和狡猾的攻擊者時，也可能顯得脆弱不堪。

對於正在快速發展的AI行業來說，這絕非杞人憂天。隨着AI系統被廣泛應用於越來越多關鍵場景，如何構建真正可靠、難以被語言操縱的安全機制，已經成爲擺在技術開發者面前的迫切課題。

這起黑客入侵事件，不僅僅是一個技術漏洞，更是對整個AI生態系統安全性的一次嚴峻拷問。它提醒我們:在追求AI技術極致能力的同時，安全性和可靠性同樣不容忽視。