グーグルとグーグルDeepMindの研究者たちは9月16日にDeepMind研究所を設立し、汎用人工知能（AGI）に関する多分野的な議論を推進することを目的としています。研究所の理事会には、DeepMindの共同創設者であるShane Legg、グーグルの幹部であるJames Manyika、そしてグーグルDeepMindの会長であるDemis Hassabisが含まれており、Leggは編集長を務めます。研究所は、グーグル、DeepMind、および世界的な研究界がAGIに関連する問題に対して持つ異なる見解を提示することを強調しています。

グーグル (2)

研究所は最初に4本の記事を公開しました。これらは、AGIにおける経済政策、モデルの推論の透明性、人間の繁栄の原則、そしてAIの前線評価枠組みについて論じています。そのうちRohin ShahとAnca Draganは、モデルの「透明な窓」が狭くなることによるセキュリティ上のリスクに注目すべきであり、これを対処するには「見えない直列の深さ」を制限したり、透明度が低いシステムが同等の監視可能性を保っていることを証明するように要求するなどの方法が考えられると述べています。

Hassabisは、米国主導の前線AIの基準機関の設立を提案しました。開発者は初期段階では、モデルを公開する30日前までに評価を自主的に提出できます。この制度が成熟した後には、テストに合格すれば、米国で前線モデルを展開するための必須条件となる可能性があります。最終的には、評価機関は独立しており非公開の「機密」テストを使用する予定であり、モデルが既知の指標に最適化される可能性を低減します。また、リスクの程度に応じてさらに措置を強化することができるでしょう。

このような取り組みは、AGIの議論が能力の開発から、推論の透明性、外部評価、ガバナンスメカニズムなどの具体的なテーマへとさらに広がっていることを示しています。