英國西米德蘭茲警方近日陷入了一場嚴重的信任危機。因依賴微軟 AI 助手 Copilot 生成的虛假信息做出錯誤決策，該機構代理警察局長 Scott Green 已宣佈在全警隊範圍內緊急停用該工具。

這場風波源於一次極具爭議的足球賽事安保建議。此前，該機構曾建議禁止以色列特拉維夫馬卡比隊的球迷參加在伯明翰舉行的一場歐協聯比賽。調查發現，這一決定部分基於 Copilot 提供的情報，然而令人大跌眼鏡的是，AI 描述的所謂“球迷衝突”竟然發生在一場根本不存在的虛構比賽中。

這一“AI 幻覺”引發了連鎖反應。前任警察局長 Craig Guildford 因在國會聽證會上就 AI 的使用情況提供了前後矛盾的證詞，面臨巨大輿論壓力，最終於近期提前退休。目前，英國警察行爲獨立辦公室（IOPC）已介入調查，重點核查 AI 工具在警務決策中的合規性與倫理風險。

代理局長 Green 強調，儘管 AI 未來在提升犯罪偵查效率方面仍有巨大潛力，但在建立起嚴密的監管政策和使用指南之前，警方將不會重啓 Copilot。此事件也爲全球執法機構敲響了警鐘:在涉及公共安全與國際關係的重大決策中，過度依賴尚未完全成熟的 AI 技術可能會導致災難性的法律與外交後果。

劃重點:

  • 🚨 西米德蘭茲警方因 Microsoft Copilot 編造不存在的球賽暴力事件而正式停用該 AI 工具。

  • 📉 這一 AI 決策失誤導致前任警察局長被迫提前退休，並引發了監管部門的正式調查。

  • 🛡️ 警方高層表示，在制定出嚴格的倫理、透明度及證據審查指南前，將無限期暫停 AI 助手的應用。