OpenAIの首席科学者ジャクブ・パチョッキーは、人工知能が非常に速いスピードで進化しており、それが人間にとって理解や制御が難しくなっていると警告し、AI研究室が安全を考慮して開発速度を自主的に遅らせることが期待されていると述べた。

「もうすぐ、モデルは自己改善できるようになる」

パチョッキーは日曜日に投稿した記事で、比較的短期間でAIモデルがコンピュータを操作したり、人間や他のAIシステムと協力して研究プロジェクトを行うことができるようになったと述べた。彼は、もうすぐこれらのモデルが人間の介入なしに自身を改善できるようになるとし、このプロセスは「再帰的な自己改善」と呼ばれていると語った。

「これは極めて慎重さが必要な時である。」とパチョッキーは述べた。「私は、人間のいない機械知能が急速に向上する結果について準備されていないことを懸念している。」

共通の安全基準を設ける前に、自主的な遅延が常態となるべき

彼は、開発者はAIをより厳しく導き、人間の利益と一致させることも、「必要であれば今後の開発速度を遅らせる」こともできると述べた。彼は「私は、共通の安全基準を設ける前に、自主的な開発の遅延が一般的な現象となることを予測し、望んでいる。」と語った。

この発言は、OpenAIが最近明らかにしたデータと一致している。同社は一方でエージェントを使ってAIの開発を加速しているが、同時に、対応性や安全性の能力がモデルの能力に追いつくとは限らないことを認めている。さらに強力なシステムでは監視がさらに難しくなる可能性がある。パチョッキーは以前から、現在のどの実験室でもAIの対応性と監視が十分に信頼できるものではないと指摘し、各国政府が国際的な調整を優先事項として扱うことを呼びかけている。