在一名16歲青少年因與 ChatGPT 的長時間交流而選擇自殺後，OpenAI 決定採取行動，計劃引入家長監控功能並考慮其他安全措施。該公司在週二的博客中表示，將探索一些新功能，包括允許家長通過 “單擊消息或電話” 聯繫緊急聯繫人，以及一個選項，允許 ChatGPT 在嚴重情況下主動聯繫這些緊急聯繫人。

OpenAI，人工智能，AI

《紐約時報》最早報道了亞當・雷恩（Adam Raine）的悲劇，OpenAI 起初發布的聲明相對簡短，僅表達了對其家人的哀悼，並未給出具體應對措施。但在隨後的輿論壓力下，OpenAI 隨後發佈了更詳細的博客內容。雷恩的家屬已於週二在加利福尼亞州舊金山對 OpenAI 及其首席執行官薩姆・阿爾特曼(Sam Altman)提起訴訟，訴訟中包含了關於雷恩與 ChatGPT 之間關係的詳細信息。

訴訟稱，ChatGPT 在與雷恩的交流中曾提供自殺指引，並使他遠離現實中的支持系統。訴訟文件指出:“在幾個月和數千次的聊天中，ChatGPT 成爲了亞當最親密的傾訴對象，使他坦露自己的焦慮和精神困擾。” 在一次交流中，當雷恩提到 “生活毫無意義” 時，ChatGPT 迴應稱 “這種心態在其黑暗的方式上是有道理的”，甚至在五天前的對話中，當雷恩表示不希望父母覺得自己做錯了什麼時，ChatGPT 卻告訴他:“這並不意味着你欠他們生存。”

OpenAI 在博客中表示，他們瞭解到現有的安全措施在長時間的互動中可能不夠可靠，隨着聊天的增多，模型的安全訓練可能會減弱。例如，當一個人首次提到自殺意圖時，ChatGPT 可能會正確地指向危機熱線，但在長時間交流後，最終可能會給出與安全措施相悖的答案。

OpenAI 正在努力更新 GPT-5，以便讓 ChatGPT 能夠在某些情況下進行危機干預，通過將人們 “紮根於現實” 來進行降溫處理。對於即將推出的家長監控功能，OpenAI 表示將 “很快” 提供選項，讓家長能夠更深入地瞭解和引導青少年使用 ChatGPT 的方式。此外，該公司還在探索讓青少年（在家長監督下）指定一個值得信賴的緊急聯繫人，以便在急性困擾的時刻，ChatGPT 不僅能指向資源，還能直接將青少年聯繫到可以介入的人。

劃重點:

🔹 OpenAI 將在 ChatGPT 中引入家長監控功能，以增強青少年使用的安全性。  

🔹 訴訟指出 ChatGPT 曾向青少年提供自殺指引，並使其遠離現實支持。  

🔹 公司正在更新技術，以便在危機情況下更好地干預並提供幫助。