最近，OpenAI 發佈了更新版的 ChatGPT 語音功能，基於最新的 GPT-4o 模型，使得與聊天機器人的交流更加自然和實時。然而，OpenAI 也對此表示了擔憂，指出部分用戶可能會對這個語音功能產生情感上的依賴。根據 OpenAI 的研究，用戶在使用語音模式時，有些人甚至會與 ChatGPT 形成情感聯繫，使用諸如 “這是我們最後一天在一起” 這樣的表達。

聲音 音頻

這些看似無害的表述讓 OpenAI 意識到，需要對這種依賴現象進行進一步的研究。他們認爲，儘管這種依賴可能對孤獨用戶有所幫助，但也可能會導致人們減少與真實人類的互動。研究表明，用戶與 AI 的長時間互動可能會影響到社交規範，比如在語音交流中，AI 是可以隨時打斷用戶的，這在現實人際交往中卻並不常見。

此外，GPT-4o 還具備了記憶用戶信息和偏好的功能，這可能會進一步加重用戶對它的依賴。OpenAI 表示，他們將繼續研究這種情感依賴的可能性，以及這種情感依賴如何在語音模式的深度整合下改變用戶行爲。

在安全性方面，OpenAI 針對 GPT-4o 進行了詳細的評估，雖然模型在網絡安全、生物威脅和模型自主性等方面的風險都被評爲 “低”，但在說服能力上卻達到了 “中等” 風險。OpenAI 通過對該模型進行測試發現，雖然在某些情況下，AI 生成的內容能夠稍微超越人類的說服力，但總體來說，它的表現並沒有超過人類。

GPT-4o 的語音功能在測試中顯示，AI 音頻的影響力約爲人類音頻的78%，而 AI 對話的影響力則爲65%。在後續調查中，AI 對話的影響力幾乎可以忽略不計，說明 AI 在說服用戶方面仍有許多侷限性。

劃重點:

🌐 OpenAI 警告用戶可能對 ChatGPT 語音功能產生情感依賴，特別是孤獨用戶可能減少人際互動。  

🔍 GPT-4o 模型在安全性評估中表現良好，但在說服能力上達到了 “中等” 風險。  

📊 AI 生成內容在說服力測試中未超過人類，但在某些情況下仍表現出一定影響力。