世界中で人工知能が爆発的に発展する中、各国は大規模なモデルに対する規制を初期の原則的な宣言から実際の取り組みへと移行しています。イギリス、米国、オーストラリアなど多くの国政府は最近、先端的なAIモデルが公式に公開される前に、政府主導のセキュリティの脆弱性とリスクの境界をテストする必要があると新たな措置を打ち出しました。

イギリスのモデルが世界的な政策のモデルとなる

この規制の転換において、イギリスAI安全研究機関（AISI）が提案したレッドチームテストとリスク評価プロセスは、各国にとって参考となるモデルとなっています。現在、イギリス政府はオーストラリアAI安全研究機関と正式な協力関係を結び、双方がネットワーク上の攻撃と防御における先端AIの潜在的なリスクを共同で追跡し、主要な能力の洞察を共有することになりました。

この新しい規制モデルは、過去に企業の自主的な約束に頼るだけだった受動的な状況を完全に変えており、政府の力がモデルのテストプロセスに直接関与するようになりました。今後、AIの大規模モデルは市場競争の中で、まずこの「公開前の検査」に相当する合規プロセスを通過する必要があります。セキュリティテストの能力は、製品の核心的競争力の重要な要素として徐々に進化してきています。

米国の巨頭が国家レベルの評価に参加

一方で、米国商務省に所属するAI標準と革新センター（CAISI）も、類似の国家安全保障評価メカニズムを加速して推進しています。現在、グーグルのDeepMindやマイクロソフト、マスクが所有するxAIなどの多くの先端AI企業が、同センターと重要な協定を締結し、モデルが公開される前に必要な資料を提出し、深いセキュリティ評価を受け入れることを約束しています。

マイクロソフトはこの間に、米国とイギリスのテスト機関との協力を深め、先端モデルが引き起こす大規模な公共の安全リスクを共に低減する予定であることを明確に表明しました。このような頻繁な国際的な協力は、未来のAI規制が企業が安全の約束を記述しているかどうかを尋ねるだけでなく、「実際に誰かがテストしたのか」にさらに注目するという明確なシグナルを示しています。