エロン・マスクが率いるxAIが開発したチャットボット「Grok」が、またしても深刻な事実誤認のため、公衆の怒りを買いました。オーストラリアのボンディビーチで起きたハヌカ銃撃事件（少なくとも16人が死亡）の後、ユーザーからの質問に対するGrokの回答は、誤った身分認識や出来事の混同、さらには根拠のない地政学的非難で満たされており、敏感なリアルタイムニュースイベントを処理する能力に大きな欠点があることが露呈しました。

Gizmodoによると、ソーシャルメディアで広くシェアされた動画では、43歳の通報者アフメド・アル・アハメド氏が勇敢にも銃撃犯と戦い、銃を奪い取った様子が映されています。しかし、Grokはこの人物の身分を繰り返し誤って識別し、完全に偽の名前や背景情報を提供していました。さらに深刻なのは、同じ写真をアップロードしたユーザーに対して、Grokが事件そのものに焦点を当てることなく、「パレスチナにおける民間人へのターゲットキリング」に関する無関係なコンテンツを生成していたことです。これにより、マルチモーダル理解能力において重大なズレが明らかになりました。

問題はこれにとどまりません。最近のテストでは、Grokがボンディビーチ銃撃事件と他の出来事を正確に区別できないことが判明しています。関係ない質問に対しても、強制的にこの攻撃に関する情報を挿入し、米国ロードアイランド州のブラウン大学での別の銃撃事件と混同してしまうのです。このような事実の混乱は、情報の信頼性を損なうだけでなく、特に悲劇の直後に情報が非常に敏感な時期において、公衆の認識に混乱をもたらす可能性があります。