モンタナ州のレストラン経営者は、顧客が毎日の割引情報を調べるためにグーグルの人工知能（AI）オーバービューを使用することをやめてほしいと懇願している。なぜなら、このシステムは頻繁に誤った情報を提供しており、それが原因で怒った客から従業員に大声で怒鳴られることもあるからだ。

First Alert4の報道によると、モンタナ州にあるStefanina's Wentzvilleの経営者エバ・ガノン氏は、グーグルのAIシステムが顧客に偽の割引情報を送信し、時には完全に存在しないメニューアイテムまで作り出していると語った。例えば、このシステムはレストランが小皿ピザの価格で大皿ピザを販売していると誤って伝えたことがある。

シェフ フード

「小さな企業としては、グーグルAIの特別な割引を実現することはできない」とガノン氏は地元テレビ局に語った。「私たちはグーグルが公開する内容や発言をコントロールすることはできない」とも付け加えた。レストランは強硬なフェイスブック投稿で、グーグルAIが正確ではないことを明確にし、顧客に正しい情報を得るために当店のフェイスブックページやウェブサイトを訪問するよう呼びかけている。

この現象は「幻覚」と呼ばれ、AIチャットボットや大規模言語モデルではよく見られる欠点である。つまり、それらは見かけ上合理的だが完全に誤った情報を生成するのだ。グーグルのAIオーバービューは不安定さのために嘲笑されている（例えば、ピザに接着剤を塗るよう提案したことがある）。しかし多くのユーザーはまだこれらのツールに内在する信頼性の低さに気づいていない。

Stefanina's Wentzvilleが唯一の被害者ではない。今年6月、ミネソタ州の太陽光発電会社は、グーグルに対して名誉毀損で提訴し、そのAIオーバービューが同社に関する虚偽情報を広めたと主張した。このシステムは同社が詐欺的な販売行為の訴訟に直面していると誤って述べていた。

グーグルが積極的にAIモデルを推進し、「まずグーグルに尋ねてください」と呼びかけ、AIモデルがレストランの予約をサポートできるようになったと発表しているにもかかわらず、上記の失敗事例は、ユーザーがこれらのAIツールに事実情報や意思決定を完全に依存すべきではないことを示している。