3132人の参加者が関与した5つの実験研究によると、AI大規模言語モデル（GPT-5.5やClaude4.6Sonnet、Gemini3.5Flashなど）の導入は、人間の「知らない」という判断能力を顕著に低下させ、人々が「私は知らない」と認める意欲をほぼ完全に失わせていることが明らかになりました。

研究チームは、モデルの幻覚を引き起こしやすい非常に細かい専門的な問題を特に選んでテストしました。その結果、AIの補助がない対照群では、参加者の36％から44％が質問に対して回答を避けていましたが、AIのアドバイスを得た後ではこの回答回避率は3％から6％に急激に減少しました。

AI,ロボットが絵を描く

さらに矛盾しているのは、AIの補助のもとでは、参加者の回答に対する自信が29.6点（満点100点）から75.9点へと爆発的に増加した一方で、実際の正解率は27.5％から9.2％へと大幅に下落したことです。これは、Step3.5Flashなどのモデルが提供する誤ったアドバイスでも、人間が盲目に受け入れて過度な自信を持つ傾向があることを示しています。

正解に報酬を与え、誤答で減点する経済的インセンティブ制度は、人々がAIに助けを求める頻度を一定程度下げることはできましたが、信頼のずれを根本的に変えられていません。業界にとってもっと注意すべき点は、現在の検索エンジンやライティングアシスタントの通常状態を模倣して、AIが生成した答えを自動的にユーザーに提示した場合でも、経済的インセンティブがあっても、参加者の「分からない」という判断の割合が39％から7％へと急激に減少したことです。

研究者らはこの現象を、人間がAIの滑らかな表現に説得されやすくなる新しい軽信傾向と見なし、従来の相談行動の中で一部の独立した判断を保つ習慣を破壊していると指摘しています。これまでのマイクロソフトおよび関連学術機関によるAIが人間の批判的思考能力を弱めているという発見と合わせれば、AIへの過度な依存は人々が認知作業を過度に外部に委ねるようになっていることがわかります。

生成型AIがさまざまなデジタルツールに seamlessly 埋め込まれていく中、モデル自体の正確性を向上させるだけでなく、人間が自身の知識の境界を認識し続けるために適切な人間とAIの相互作用メカニズムを設計することが、次の段階でのAIの実用化において重要な課題となるでしょう。