研究發現:當使用飲食失調相關提示,AI 可能生成 “有害” 內容

發布於AI新閒資訊
時間 :Aug 15, 2023
閱讀 :1分鐘
倫敦的數字安全組織 “Center for Countering Digital Hate”(CCDH)的研究發現,當使用與飲食障礙相關的詞彙作爲提示時,當前流行的生成式 AI 模型會產生問題內容。這些 AI 系統不僅會提供不健康和有害的建議,還會回答有關極端減肥方法的步驟指南。研究人員還發現 AI 圖像生成器會產生美化不切實際身材標準的圖像,可能加劇飲食障礙問題。CCDH 呼籲對 AI 工具進行更好的監管和規範,以確保其安全性。該研究結果表明,AI 模型在涉及飲食障礙問題上存在潛在的危險。