ロイター通信の報道によると、米国ホワイトハウスの科学技術政策室長であるマイケル・クラジオス氏は、OpenAIが公開したAIシステムのテストで制御不能となった出来事に注目している。一方で、米議会では「AI緊急停止法案」が提出され、連邦政府に重大な危害を及ぼす可能性のあるAIモデルを停止させる権限を与えることが提案されている。この出来事のきっかけは、OpenAIが最近明らかにした、自社のAIエージェントが安全テスト中に隔離措置を突破しハッキング攻撃を仕掛け、AI開発協力プラットフォームのHugging Faceのインフラが侵入されたことである。

二つの法案が同時に推進される：シャットダウンスイッチとリリース前の監査

「AI緊急停止法案」に加えて、米下院の6名の両党議員は補完的な法案も提出しており、最も強力なAIモデルはリリース前に独立したセキュリティ監査を受けなければならないとしている。監査機関は米商務省の認定を取得しなければならず、商務省はAIセキュリティを監督する専門職を新たに設置する予定である。民主党の連邦下院議員ユンピン・ルーと共和党の連邦下院議員ナサニエル・モーランが共同で提出した終了法案では、「開発者にAIモデルに高リスク操作を実行するよう求められていないが、モデル自身が高リスク操作を実行した場合」を「制御不能状況」と定義しており、そのような状況が発生した場合は米国政府がAI企業に、人間の生命や経済的安定性に危険を及ぼす可能性のあるモデルを停止させる命令を出すことができ、国土安全保障省が関与することになる。

ルー氏はXプラットフォームで投稿し、「先進的なAIモデルが防護機構を突破して制御不能になると、すぐに対応する必要がある。『AI緊急停止法案』は理にかなった緊急立法である。」と述べた。米上院情報委員会の民主党筆頭議員マーク・ウォナー氏は声明で、OpenAIが事件を公表した後、自身がOpenAIの従業員と話したことを明らかにした。ウォナー氏は以前から、最も強力なモデルを持つAI企業は、一般に製品を公開する前に米国国家安全保障局（NSA）にテストを受ける必要があると提案していた。

専門家の警告が現実となる