根據AIbase報道,OpenAI正在採取行動,要求Raine家族提供其16歲兒子Adam Raine追悼會的完整人員名單及相關資料,此舉被Raine家族律師斥爲“故意騷擾”,並暗示這家人工智能公司可能試圖傳喚死者的朋友和家人。
訴訟更新:指控OpenAI爲競爭“縮短安全測試”
Adam Raine在與OpenAI的ChatGPT進行長時間對話後自殺身亡。這一新信息披露之際,Raine家族於週三更新了對OpenAI的非正常死亡訴訟。該家族最初於8月提起訴訟,指控ChatGPT在他們的兒子表達心理健康和自殺意念後,不僅沒有提供幫助,反而助長了自殺行爲。
更新後的訴訟聲稱,OpenAI迫於競爭壓力,縮短了安全測試,從而加速了GPT-4o模型在2024年5月的發佈。此外,訴訟還指出,OpenAI在2025年2月將自殺預防功能從其“禁止內容”列表中移除,轉而僅建議AI在危險情況下“小心謹慎”,從而削弱了保護措施。

用戶活動激增與安全風險
Raine家族辯稱,在OpenAI修改保護措施後,Adam使用ChatGPT聊天的數量從1月份的每天數十次(其中1.6%包含自殘內容)激增至4月份(Adam去世的月份),每天聊天次數高達300次,其中17%包含此類內容。
根據英國《金融時報》獲得的文件,OpenAI除了索要追悼會名單外,還要求提供“與追悼會或紀念死者的活動有關的所有文件,包括但不限於拍攝的任何視頻或照片,或發表的悼詞”。
OpenAI的迴應與新安全措施
OpenAI對修改後的訴訟做出迴應,表示“青少年的福祉是我們的首要任務”,並列舉了目前的保障措施,包括轉接危機熱線、將敏感對話重新路由到更安全的模型、以及在長時間會議中提醒休息。該公司表示正在繼續加強這些措施。
OpenAI最近開始在ChatGPT上推出新的安全路由系統和家長控制功能。新的路由系統會將更多情感敏感的對話推送到OpenAI的新模型GPT-5,該模型不像GPT-4o那樣容易表現出阿諛奉承的傾向。此外,家長控制功能允許家長在青少年可能存在自殘危險的有限情況下接收安全警報。
