Googleが提供するAI検索機能（AI Overviews）は、新たな信頼危機に直面しています。5万以上の健康関連の検索クエリを対象とした研究では、このAIツールが医療に関する質問に答える際、YouTubeから引用する頻度が、あらゆる専門的な医療ウェブサイトを上回っていることが判明しました。この発見は、学術界や公衆衛生の専門家たちがAI生成の健康情報の信頼性について深い懸念を抱くきっかけとなりました。

SE Rankingが実施したこの研究は、ドイツからの健康関連の検索データを主に分析したものでした。その結果、すべてのAI要約の出典の中でも、YouTubeは4.43％でトップにランクインしました。一方で、どの病院ネットワークや政府の健康ポータル、あるいは学術機関の引用率もこれには及んでいません。研究者たちは、YouTubeが医学出版の専門プラットフォームではないことを指摘し、そこには臨床医から医学的背景を持たない健康系のインフルエンサーに至るまで、多様なクリエイターが存在しているため、情報の厳密さは保証されないと述べています。

専門家たちは、Google AIが「自信ありげで権威ある」口調で提示する要約が、毎月20億人近くのユーザーに間接的に影響を与えていると警告しています。スイスバーゼル大学の研究者ハナ・ヴァンコルフシュート氏は、「この研究は、AIが健康分野において構造的なリスクを抱えていることを示しています。これは、Googleのアルゴリズムが医学的な『信頼性』よりも『知名度』や『可視性』を優先している可能性があることを意味します」と語っています。

これに対して、Googleのスポークスパーソンは、AI Overviewsが信頼できるソースからの高品質なコンテンツを表示することを目的としていると述べ、研究データの中で96％の人気のあるYouTubeの引用が医療機関のチャンネルから来ていると説明しました。しかし、研究者たちは、それらは極めて小さなビデオのサンプルに過ぎず、多くが引用された動画は依然として厳しい医学的審査を受けていないと反論しています。以前に『ガーディアン』が行った調査では、Google AIが肝機能テストに関する情報を提供する際に重大な誤解を招くような間違いが発覚したことがあります。