最新涉及3132名參與者的五項實驗
研究團隊專門挑選了極易引發模型幻覺的精細冷門問題進行測試,結果顯示,在無AI輔助的對照組中,參與者對36%至44%的問題選擇放棄作答;而在獲取AI建議後,這一不作答比例驟降至3%至6%。

更爲矛盾的是,在AI輔助下,參與者的答題自信心從29.6分(滿分100分)暴漲至75.9分,但實際答對率卻從27.5%大幅跌至9.2%,表明即便面對Step3.5Flash等模型給出的錯誤建議,人類依然傾向於盲目採納併產生過度自信。
引入答對獎勵與答錯扣減的經濟激勵機制雖能在一定程度上降低人們向AI求助的頻率,但未能從根本上扭轉這一信任錯位。更值得行業警惕的是,當測試模擬當前搜索引擎和寫作助手的常態,將AI生成的答案自動展示給用戶時,即便在有經濟激勵的條件下,參與者懸置判斷的比例依然從39%暴跌至7%。
研究人員將此現象歸結爲一種新型輕信趨勢,即人類容易被AI流暢的表達所說服,從而打破了傳統求助行爲中保留部分獨立判斷的習慣。結合此前微軟及相關學術機構關於AI削弱人類批判性思維的發現,過度依賴AI正促使人們將認知任務過度外包。
隨着生成式AI在各類數字化工具中的無縫嵌入,如何在提升模型自身準確率的同時,設計合理的人機交互機制以維持人類對自身知識邊界的認知,將成爲下一階段AI應用落地的重要課題。
VIP會員