最近、アンソロピックの最高経営責任者であるダリオ・アモーディ氏が署名記事を発表し、人工知能業界全体に呼びかけをし、先端AI分野の参加者に対して技術の進化速度を遅らせるよう提案した。

彼が記事で提示した中心的な判断は非常に鋭く、もし人類がAIの発展ペースを主動的に制限しなければ、将来的には技術の突破が普通の人間には理解できず、人間のコントロールを超えることになるだろう。

アモーディ氏の記事が掲載されてしばらくして、イーロン・マスク氏が公開して意見を表明し、アモーディ氏の見解が完全に正しいと認めた。また、OpenAIのCEOであるサム・オルトマン氏もすぐに公的な返答を行い、明確に「先端AI分野では適切なスピードの遅れが必要だ」という主張に全面的に賛成した。

最も困難な現実的課題：誰が最初に減速するのか

しかし、このグローバルな遅れの構想が実際に実施可能かどうかについて語るとき、アモーディ氏は中国がその計画の推進過程において最も難しい現実的課題であると率直に述べた。

彼はこの構想の核心的な矛盾を直接指摘した。もし現在、一部の国と少数の主要テクノロジー企業だけが意図的に減速し、開発のペースを落とす一方で、他の主体が制限されずに全力で技術の進化を進めれば、減速する側はその後、技術競争における発言権、産業経済的利益、さらには将来の軍事技術優位性において、非常に不利な立場に陥ることになる。

アモーディ氏は、長期的な視点から見れば、国際社会は多国間協力によって統一された人工知能の発展制限メカニズムを試みるべきだと考えている。これにより、無秩序な競争による技術能力の急激な安全境界の越えを防ぐことができる。しかし彼は同時に、この国際協力の実施難度は非常に高いことも認めている。なぜなら、次の世代の高度な人工知能能力を最初に手に入れることがもたらす戦略的利得が非常に大きく、ほとんどの主体がこの重要な技術分野でのリードを放棄しようとはしないからだ。

彼は正直に語った。今でも、このようなグローバルな調整メカニズムが実際に実行可能かどうかは分からない。しかし、長期的な技術の暴走リスクへの懸念から、業界全体がこの方向に向けて努力すべきだと考えている。