米国の国防総省は以前、人工知能の巨頭アンソロピックとの協力計画を最終的に中止し、強い連鎖反応を引き起こした。その後、米国政府は珍しくこのAI企業をサプライチェーンリスク対象に指定したが、これにより全米のテクノロジーと政治界で大きな波紋を広げた。

両社の協力が破綻した核心的な理由は、アンソロピックがそのシステムのセーフガードを解除することを拒んだためである。同社はこれらの制限を維持し、軍がAIモデルを大規模な国内監視や人間の介入のない完全自律型兵器に使用することを防ぐことを主張した。

部隊の兵士ドローン1

軍は他の巨大企業へと転向し、議会は緊急立法を実施

アンソロピックとの協力が終了した後、国防総省は迅速に他の主要なAI企業と契約を結び始めた。これはオープンエーアイ、グーグル、ナビダ、マイクロソフト、アマゾンなどのテクノロジー大手を含んでおり、軍事用AIの導入がより多くの社会的懸念を引き起こしている。

この重大な出来事に対し、カリフォルニア州上院議員のアダム・シフを中心とする複数の民主党議員は緊急で一連の法案を提出した。その最新版である「HALO法案」は、自律型兵器システムが何らかの行動を取る際には、人間の指揮官が最終的な決定権を持つことを明確に求めている。

人間のコントロール強化と技術リスクの防止

この法案では、軍事的な意思決定や目標選定のプロセスを詳細に記録する義務を課し、事後の審査が可能になるようにしている。また、核兵器の配備や大規模な監視においてAIが誤用されることを厳禁としている。議員たちは、米国軍がAIを使用する際に国家安全保障およびプライバシーの原則に適合することを確保し、技術が常に人間のコントロール下にあることを求めている。

しかし専門家は、技術自体が完璧ではないこと、使用者が「自動化バイアス」と呼ばれる傾向に陥りやすく、AIの判断を過度に信頼してしまう可能性があることを警告している。AIシステムの決定プロセスの見通しが悪いことから、監督があっても軍事用AIの導入は深刻な致命的な誤りを引き起こす可能性がある。