イギリス西部ミッドランズ警察は最近、深刻な信頼危機に陥っています。マイクロソフトのAIアシスタント「Copilot」が生成した誤った情報を基に誤った意思決定をしたため、同機関の代理警視長スコット・グリーン氏は全警察内で緊急的にこのツールの使用を停止することを発表しました。

この騒動は、非常に論争的なサッカー試合の保安提言に端を発しました。以前には、テルアビブ・マカビーチームのファンがバーミンガムで開催されるヨーロッパユースチャンピオンシップの試合に参加することを禁止するよう提案していました。調査の結果、この決定は一部、Copilotが提供した情報に基づいていたことが判明しましたが、驚くべきことに、AIが記述した「ファンの衝突」は、存在しない架空の試合で起こったものでした。

この「AIの幻覚」が連鎖反応を引き起こしました。議会の公聴会でAIの使用について矛盾した証言をした元警視長クレイグ・ギルドフォード氏は、大きな世論の批判にさらされ、最近退職を余儀なくされました。現在、イギリス警察行動独立委員会（IOPC）が調査に介入しており、AIツールが警察の意思決定において法的・倫理的なリスクを含んでいるかどうかを重点的に調べています。

代理警視長グリーン氏は、AIが犯罪捜査効率を向上させる未来においても大きな可能性を持っていることを強調しながら、厳格な規制政策や使用ガイドラインが策定されるまでは、Copilotの再導入は行われないと述べました。この出来事は、世界的な執行機関にとって重要な教訓となりました。公共安全や国際関係に関わる重大な意思決定において、まだ完全に成熟していないAI技術に過度に依存することは、災害的な法的および外交的結果をもたらす可能性があるのです。

ポイント：

  • 🚨 ウエストミッドランズ警察は、マイクロソフトのCopilotが存在しない試合の暴力事件を作り出したため、正式にこのAIツールを停止しました。

  • 📉 このAIの判断ミスにより、元警視長は早期に退職を余儀なくされ、監督機関による正式な調査が開始されました。

  • 🛡️ 警察上層部は、厳格な倫理、透明性および証拠検証のガイドラインが策定されるまで、AIアシスタントの使用を無期限に中止すると表明しています。