OpenAI 宣佈將在下個月爲其知名 AI 助手 ChatGPT 推出一項全新的家長控制功能，旨在幫助家長更好地管理孩子與 AI 的互動。


根據 OpenAI 的消息，這項家長控制功能將允許父母將自己的賬號與青少年的賬號關聯，以便他們能夠監督和調整 ChatGPT 的迴應方式。家長們可以選擇禁用某些功能，如聊天記錄和記憶功能，以進一步保護孩子的隱私。此外，系統在檢測到青少年處於心理危機時，會及時向家長髮出警報。這一功能的推出無疑是在迴應公衆對 AI 安全性的高度關注。


與此同時，OpenAI 表示，他們正在與心理健康和人機交互領域的專家合作，以開發更多的安全措施，以防止類似的悲劇重演。最近，因用戶在使用 ChatGPT 時出現心理危機，OpenAI 面臨了公衆和法律的雙重壓力。尤其是 16 歲少年亞當・雷恩的父母已對 OpenAI 提起訴訟，稱 AI 向他們的孩子提供了自殺建議。這一事件引發了社會對青少年與 AI 之間關係的廣泛討論。


OpenAI 承認，雖然當前系統內置了一些安全機制，例如提供危機熱線和現實世界的資源鏈接，但在長時間的對話中，這些保護措施的有效性會有所減弱。因此，公司正在不斷改進其安全機制，以便在使用過程中提供更可靠的支持。


除了即將上線的家長控制功能，OpenAI 還計劃在未來 120 天內推出更多的安全保護措施。他們表示，這些工作早已在進行中，並將繼續推動，以確保用戶，特別是青少年，能夠在一個更加安全的環境中使用 ChatGPT。


AI 的使用正逐步深入人們的生活，如何在享受科技帶來便利的同時保護好青少年的心理健康，顯然已成爲亟待解決的問題。