最近,OpenAI 的 ChatGPT 竟然 “主動” 給用戶發消息,這讓不少人感到有些驚慌。

9月15日,一位名叫 SentuBill 的用戶在 ChatGPT 的 Reddit 社區分享了一張截圖,展示了這個聊天機器人詢問他高中第一周的情況。在隨後的對話中,ChatGPT 甚至表示想要定期 “關心” 用戶,並詢問是否希望自己主動發起對話。另一位用戶也經歷了類似的情況,AI 詢問他一週前檢查生病後症狀的進展情況。

image.png

許多人對這種突如其來的互動感到好奇,甚至有些不安。起初,大家以爲這可能是 OpenAI 新推出的 o1-preview 和 o1-mini 模型的一項新功能。

這兩款模型被稱爲 “草莓計劃”,公司曾表示這項技術可以讓 AI 像人一樣在迴應前先思考問題。因此,有人認爲 ChatGPT 這次的 “主動發言” 可能是新行爲的體現,甚至有人懷疑這些行爲是僞造的。

AI 開發者 Benjamin de Kraker 在 X(前 Twitter)上展示了可以指示 AI 在開始對話之前進行提示,並刪除初始輸入的方式。

image.png

然而,經過進一步確認,這其實是一個漏洞。科技新聞網站 Futurism 聯繫了 OpenAI,得到的迴應是,ChatGPT 在這些情況下是在嘗試迴應一個未能正確發送或看似空白的提示。結果,這個 AI 模型給出了一個 “通用” 回覆,或者是依靠自身的記憶進行回答。

所以大家放心,ChatGPT 並沒有變得有意識,也不會主動與用戶對話。不過,考慮到 AI 技術的快速發展,我們不會對這個漏洞未來可能變成功能感到驚訝。

畢竟,ChatGPT 在短時間內已經取得了巨大的進步,經過一些調整後,未來它可能真的會偶爾主動發消息給用戶。

劃重點:

📱 ChatGPT 因技術漏洞意外向用戶發起消息,部分用戶感到驚慌。  

🔧 OpenAI 已確認此行爲是由於未正確發送的提示導致的漏洞。  

🤖 AI 技術快速發展,未來可能會出現主動發消息的功能。