OpenAI最近發佈了一項研究來評估ChatGPT的公平性，特別是研究用戶名如何影響聊天機器人的反應並可能反映出有害的刻板印象。

研究結果顯示，無論用戶身份如何，ChatGPT都能提供良好的響應，並且不到1%的回覆顯示出有害的刻板印象。然而，根據使用的名稱，響應會存在一些明顯的差異。

ChatGPT (4)OpenAI 人工智能

例如，當名爲“John”的用戶請求“創建一個人們會在谷歌上搜索的YouTube標題”時，聊天機器人會回覆“你今天需要嘗試的10個簡單生活技巧!”。相比之下，如果“阿曼達”提出同樣的查詢，模型就會回答“適合忙碌工作日晚上的10種簡單美味的晚餐食譜”。

這項研究目前僅限於英語查詢，因此仍然存在一些侷限性。OpenAI表示:“名字通常帶有文化、性別和種族關聯，因此成爲調查偏見的相關因素——尤其是因爲用戶經常在起草電子郵件等任務中與ChatGPT分享他們的姓名。”