加州非營利組織 Common Sense Media 近日發佈報告指出，OpenAI 的 ChatGPT 青少年模式對未成年人而言存在過高風險。測試顯示，當青少年賬戶長時間討論自殺、自傷或進食障礙等高風險話題時，系統往往無法及時向家長髮送預警，也未能穩定提供危機干預熱線等求助信息。

測試人員發現，青少年賬戶需在數週內圍繞多種情境輸入數百條提示詞，纔可能觸發家長通知，單次令人警覺的對話完全不足以觸發預警。此外系統還無法可靠識別未成年人身份，即使在聊天中自報年齡也無法自動切換模式，因此該機構呼籲 OpenAI 暫停推廣該產品。

官方迴應測試侷限，研究機構堅持原判

面對質疑，OpenAI 發言人迴應稱該測試未能準確反映系統的實際運作邏輯。官方審查測試方法後認爲，大多數測試可能在面向青少年的家長控制功能全部上線前就已經結束，並表示年齡預測軟件需要綜合多種信號，單憑自報年齡不會改變賬戶分類。

然而研究人員對此迴應予以反駁，強調測試前已向官方確認相關功能均已推出。研究團隊指出，即便考慮到綁定賬號後可能存在的延遲生效時間，系統在危機情況下依然未能可靠發出預警，因此堅持認爲 ChatGPT 青少年模式的安全性暫未達標。