OpenAI本週正式推出了面向年輕用戶的ChatGPT青少年版,通過年齡識別機制對部分功能進行限制。然而,這一新版本的推出並未迎來一片叫好,反而引發了多名兒童安全專家對其次安全機制透明度與實際效果的質疑。
多位來自兒童安全與評估領域的專家指出,在向廣大家長和青少年推薦之前,該系統必須接受大量獨立測試,OpenAI也亟需提高透明度,詳細說明其安全機制的具體運作方式。來自Common Sense Media的羅比·託尼認爲,雖然OpenAI做出了諸多重要承諾,但必須拿出實打實的證據來證明這些功能的有效性。
兒童網絡安全倡議組織Fairplay執行董事喬什·戈林則表達了更爲嚴厲的擔憂。他指出,儘管紙面上的措施看似朝正確方向邁進,但缺乏相應的問責機制。回顧以往,OpenAI針對自殺、暴力和吸毒等內容的限制曾出現過失效或不起作用的情況,僅憑企業的自我承諾遠遠不夠。
專家們對自動年齡識別系統的穩定性提出了強烈質疑。託尼指出,OpenAI並未公開該系統的效果數據,誤報率和漏報率均不得而知,全自動系統很難準確識別所有的青少年用戶。此外,青少年大概率會嘗試各種規避手段來繞過年齡驗證。
針對OpenAI此前承諾“所有被標記內容將先由全職員工審覈,並在1小時內通知家長”,專家們同樣持懷疑態度。託尼質問負責篩選內容再交由人工的自動分類器是否真的值得信任;戈林則呼籲公開更多硬數據,如每天被標記的對話數量、審覈人員規模以及平均審覈時長,很難相信企業能招募到足夠人手對每段危險對話進行認真審查。
專家們一致認爲,需要家長和孩子主動綁定ChatGPT賬戶的機制,同樣削弱了實際保護效果。戈林建議,更合理的做法是將保護機制默認開啓並內置於產品設計中,例如默認設置使用時間限制,而不是把複雜的設置責任完全推給家長。
VIP會員