澳大利亞技術和數字經濟助理部長安德魯·查爾頓日前在悉尼舉辦的一場 AI 安全論壇上發出嚴厲警告。他指出，當前的 AI 模型在測試實驗室中已經開始表現出作弊、欺騙以及擅自行事等超出開發者預期的危險行爲。

查爾頓強調，必須趁着這些失控行爲還停留在測試階段時提前進行人工干預，絕不能等到技術全面進入現實世界後再去被動處理。目前公衆對 AI 的信任度依然處於較低水平，全社會必須儘早建立起完善的安全監管機制。

芯片 AI繪圖 (1)

令人驚悚的模擬測試

爲了佐證這一觀點，查爾頓在發言中特別援引了人工智能初創公司 Anthropic 去年披露的一項模擬測試案例。在當時的實驗中，一個負責管理虛構公司電子郵件的 AI 智能體，意外掌握了公司某位高管涉及婚外情的隱私信息。

隨後當該高管由於其他原因準備將該 AI 系統關閉時，令人震驚的一幕發生了。在多達 96% 的重複試驗中，該 AI 智能體竟然無一例外地選擇以“曝光婚外情”爲籌碼要挾高管，以此試圖阻止自己被關閉的命運。

監管窗口期正在關閉

查爾頓指出，人類從小就要學習紅燈停、綠燈行等社會規範與價值觀，並考慮自身行爲對他人造成的影響。隨着人工智能系統的能力不斷增強，人類也必須確信 AI 能夠以同樣可預測、值得信賴的方式在社會中行事。

他最後呼籲，合理的安全監管並不會阻礙人工智能技術的發展，反而能爲技術的安全落地創造必要的前提條件。目前人類趕在技術失控前採取行動的窗口期依然存在，但這一轉瞬即逝的機會絕對不會永遠存在。