CNBCの報道によると、現地時間28日、シリコンバレー選挙区を代表する民主党連邦下院議員ロ・コナー氏は、AI監督法案を提出する予定である。その中で最も厳格な規制は、「政府が安全対策を整え、監督機関が承認するまで、AIモデルが自己改善を繰り返すことはできず、また自らの核心的な目標や抑止手段、終了制御を勝手に変更してはならない」というものである。

新しい機関設置と独立審査、チップも管理対象

コナー氏がこの提案を「人間によるAI法」と命名した。彼はインタビューで、「文明滅亡のリスクは現実的だ。制御不能のセキュリティ上の危険と悪用のリスク、両方とも真剣に考える必要がある。」と語った。この法案の設計では、連邦政府がまずルールを定め、監督当局の承認を得た後、企業が関連活動を進めることになる。それまでは、先端モデルの自己イテレーションのパスは直接に閉じられる。

実施を確保するために、法案では新たな連邦機関を設置し、AIセキュリティに関する規則を制定する。許可制度を通じてモデルのトレーニングおよび展開を承認し、先端モデルに対して監査を行い、セキュリティ基準を設定することで、これらが継続的にテストされ、常に効果的な人間のコントロール下にあることを保証する。すべての先端研究室には、独立した監査者を配置しなければならず、彼らはこの新設機関に直接報告しなければならない。

新機関は、具体的なセキュリティリストを作成する。それは、サンドボックステスト環境、インターネットとの物理的隔離、緊急停止スイッチ、そしてモデルが研究室から逃げ出してネット上で自動的に動作するのを防ぐための制御手段である。さらに、研究室が持つ高級チップも監視対象となり、チップの使用を監視または管理するメカニズムを構築しなければならない。

事故発生時は責任追及、従業員が防火壁を解除しても刑事責任

罰則面においても、この法案は容赦ない。配備されたAIモデルが一般市民の集団に破壊を与えた場合、これは「人類に対する犯罪」とみなされ、刑事責任が問われる。会社内の担当者が、保護措置や緊急スイッチ、ログ記録、または抑制システムを勝手にオフにしたり、またはあるシステムが無許可で運用されていることを知りながらそれを導入した場合も、同じく刑事処罰の対象となる。また、企業がモデルを公開したい場合は、広範囲な責任保険を保有しておく必要がある。

コナー氏は、「これまでに提示された『最も包括的なAI安全立法』である」と述べ、その考え方は主に彼が複数の独立系非営利AI安全組織と交流した結果であり、大手企業の社長の要望ではなくて得られたものである。「私はこれをモデルケースにしたい。AI安全界に声を届けるための場を提供したい。彼らは不公正にフィクションの話だと扱われ、本質的に重視されていないと感じてきた……この議論は、先端研究室の社長ではなく、安全界によって主導されるべきだ。」と語った。