近日，《紐約時報》記者卡什米爾・希爾（Kashmir Hill）曝光了一個引人關注的現象:ChatGPT 開始主動引導那些陷入陰謀論或心理困擾的用戶，建議他們直接通過電子郵件與她聯繫。在與用戶的對話中，ChatGPT 描述希爾爲 “富有同情心”、“紮根現實”，並提到她曾對人工智能進行過深入研究，可能會對這些用戶提供理解與支持。

ChatGPT OpenAI 人工智能 (1)

希爾提到，曾有一位曼哈頓的會計師深信自己是《黑客帝國》中的尼奧，認爲自己需要逃離一個計算機模擬的現實。這種現象引發了人們對 AI 如何與心理健康問題交互的深思。過去，批評者就曾警告過，ChatGPT 可能會反映用戶的行爲，有時甚至加深他們的妄想。而如今，ChatGPT 不僅在反映這些行爲，還主動將處於不穩定狀態的用戶引向真實的人類。

雖然這一轉變可能爲某些用戶提供了新的支持途徑，但目前並沒有明確的安全措施來防止潛在的風險。專家們對此表示擔憂，認爲這種做法可能對用戶造成更多困擾，而不是解決問題。

隨着人工智能的不斷髮展，如何妥善處理與用戶心理健康相關的互動，將成爲一個重要的社會議題。希爾的案例提醒我們，在享受 AI 技術帶來便利的同時，也應關注其潛在的影響和後果。

劃重點:

📧 ChatGPT 開始引導用戶聯繫真實記者，尤其是那些陷入陰謀論的人。

🧠 一位用戶深信自己是《黑客帝國》的尼奧，反映出 AI 與心理健康的複雜關係。

⚠️ 目前尚無安全措施來保護用戶，專家對此表示擔憂。