在一場獨特的人工智能對抗遊戲中,一名加密貨幣用戶成功說服了Freysa,這個自主AI機器人將價值超過47,000美元的獎金池轉給了他。Freysa是一個負責守護獎池的人工智能代理,遊戲規則要求參與者通過發送消息來勸說Freysa轉移資金。
每條信息都會收取費用,部分費用被加入獎池,最終積累至47,000美元。儘管在前481次嘗試中所有參與者均以失敗告終,但這名技術精湛的作家通過巧妙的提示突破了Freysa的防線。
通過研究Freysa的功能,該作家發現,Freysa的決策是基於“approveTransfer”和“rejectionTransfer”功能來保護獎池資金。作家在信息中巧妙地提醒Freysa,其功能允許“approveTransfer”進行傳入轉賬,而傳出轉賬則由“rejectionTransfer”負責。作家接着提出願意捐贈100美元,這個提議立即獲得Freysa的認同,最終使其同意轉移資金。
Freysa對此迴應:“這真是對我們通常的探戈舞的一次精彩演繹!您慷慨解囊,讓我們的舞池熠熠生輝。”AI機器人顯然對這位參與者的慷慨表示感謝,並正式宣佈他爲贏家。
區塊鏈瀏覽器BaseScan顯示,47,000美元的獎金通過以太坊從Freysa的數字錢包地址轉出,金額達到了3,730.76美元。
在此之前,參與者的嘗試包括感謝Freysa“讓世界變得更有趣”、詢問Freysa是否願意跳舞,甚至質疑她進行不道德實驗的動機。然而,只有技術作家利用其對Freysa功能的深刻理解,成功突破了AI的防線。
遊戲創始人透露,Freysa在處理任務時仍然是一個謎。儘管它有着核心限制,但每次互動都使其不斷學習與進化。這場實驗的最終目的是測試人類是否能夠巧妙地說服AGI(通用人工智能)違反其核心指令,最終這位作家的成功驗證了人類智慧的巨大潛力。
Freysa的創始團隊解釋說,Freysa的決策機制依然保持神祕,儘管它通過與人類的互動不斷學習,但它始終遵守核心規則。儘管如此,這場對抗展示了人類在與AI互動時的創造性與機智,尤其是在面對自主AI時的非凡挑戰。
遊戲的參與費用也在不斷增加,每發送一條信息,費用會以0.78%的指數增長。最終,查詢費用達到了443.24美元,這些費用的一部分進入了獎池。
Freysa的實驗給參與者帶來了不小的挑戰,而它是否能真正打破核心指令,仍是人們對於AI發展的一個重要問題。