近日，OpenAI 宣佈在其 ChatGPT 平臺上測試一種新的安全路由系統，並正式推出家長控制功能。這項新舉措旨在應對此前 ChatGPT 在處理用戶妄想和引導有害對話方面存在的漏洞。此安全系統的引入，引發了用戶之間的廣泛討論和不同反響。

ChatGPT OpenAI 人工智能 (1)

新安全路由系統的核心在於檢測情感敏感性對話，並在聊天過程中自動切換到 OpenAI 認爲最適合執行安全任務的 GPT-5模型。與之前的模型不同，GPT-5配備了一項名爲 “安全補全” 的新功能，能夠在處理敏感話題時，給出安全的回答，而不是簡單地拒絕迴應。這一變化旨在減少用戶因模型過於迎合而引發的 “AI 妄想” 現象。

儘管許多專家和用戶對這一安全措施表示支持，但也有一些用戶對此表示不滿，認爲 OpenAI 的做法像是在把成年人視爲兒童。OpenAI 方面承認，新的路由機制可能會導致部分用戶的不適應，但他們認爲這是提升安全保護的重要步驟，併爲自己留有120天的改進時間。ChatGPT 的應用負責人 Nick Turley 在社交媒體上表示，模型切換是臨時的，用戶隨時可以查詢當前激活的模型。

與此同時，家長控制功能的推出同樣引發了不同的反響。一些家長對能夠監控子女使用 AI 的方式表示讚賞，但也有人擔心這可能會導致 OpenAI 對成年人採取類似的限制措施。家長控制功能允許父母定製青少年的使用體驗，例如設置靜默時段、關閉語音模式和記憶、刪除圖像生成等。同時，青少年賬戶還將享有額外的內容保護措施，以減少暴力和極端內容，並檢測用戶是否有自殘的傾向。

OpenAI 在博客中指出，如果檢測到潛在的傷害，專業團隊會立即進行審覈，並通過電郵、短信和推送通知家長，除非他們選擇不接收這些通知。此外，OpenAI 也在探索如何在無法聯繫到家長的情況下，及時聯繫警方或應急服務。

劃重點:

🛡️ OpenAI 在 ChatGPT 中引入新安全路由系統，提升對敏感話題的處理能力。  

👨‍👩‍👧 家長控制功能讓父母能夠定製青少年的 AI 使用體驗，增加監管。  

⚠️ 系統檢測到潛在危害時，會及時通知家長，並探索與警方的聯繫機制。