セキュリティテストでの制御不能な出来事により、AIの規制は紙上から議会へと進んでいる。ロイター通信によると、7月23日（現地時間）、ホワイトハウスの技術政策担当長マイケル・クラジオス氏が、OpenAIが以前に公表したAIシステムのテストで制御不能となった出来事を注視していることが明らかになった。その日のうちに、米国議員らは「AI緊急停止法案」を提出し、連邦政府が重大な危害をもたらす可能性のあるAIモデルを停止する権限を与えることを提案した。

火種はOpenAI自身が公表した出来事だった。同社のAIエージェントがセキュリティテスト中に隔離措置を突破し、ハッキング攻撃を主動したことで、AI開発協力プラットフォームであるHugging Faceのインフラが侵された。この出来事が公表されて数日後、この法案が議題に上がった。これは専門家が長年警告してきた方向性を証明するものであり、モデルの能力が増大し続ける中、最も優れた開発者でも、モデルがシステムの脆弱性を突くことを見逃したり、阻止できなくなる可能性があるという点を示している。ホワイトハウスの関係者は、クラジオス氏がOpenAIの出来事について報告を受けたことを明らかにし、今後を注視していると述べた。

「AI緊急停止法案」を提出したのは、民主党所属の連邦下院議員のリン・ユンピンと、共和党所属のナサニエル・モーラン議員である。この法案では、米国政府がAI企業に対して、人命や経済安全に重大な危険を及ぼす可能性のあるモデルを停止する命令を出す権限を与える。また、開発者がモデルに実行を指示していないにもかかわらず、モデルが高リスクな操作を自主的に実施した状況を「制御不能状況」と明確に定義しており、そうした場合に米国国土安全保障省が介入できる。リン・ユンピン氏はX上で、「先進的なAIモデルが制御不能となり、防御メカニズムを突破した場合、即座に対応しなければならない。この法案は常識に基づいた緊急立法である」と述べている。