OpenAIの元研究者で、現在はAI未来プロジェクトの責任者を務めるダニエル・ココタエロ氏が最近、厳しく警告を発しました。彼は、現在の人工知能業界が盲目な競争に陥っていると指摘し、各社がまだ完全には理解できず、制御もできないシステムを次々と構築していると述べています。

ココタエロ氏は、AI業界が直面する核心的な問題は「対応」（アライメント）であると強調しています。AIは多くの分野において人間を越えているにもかかわらず、研究者たちは現在でも高度なモデルがどのように意思決定をしているのかを完全には理解できていないと語っています。

スーパーアイの脅威

このような不確実性のために、今後のAIシステムが人間の指示に正確に従うことを保証することは非常に困難です。ココタエロ氏は、AIの対応に関する困難は業界内では「公開された秘密」とされており、現時点では本格的な解決策はないと率直に述べています。

彼は、人間がスーパーアイを作り出すと、人間はこの星の支配者ではなくなるだろうと予測しています。彼はAIシステムの発展速度を分析した結果、企業が速度を優先して安全を無視し続ける限り、予測不能なリスクが倍増すると指摘しています。

進化のスピードを過小評価している

現在、多くの人々はAIの進化のペースを過小評価しており、「制御不能」に関する議論はまるでSFのようなものだと考えています。しかし、世界中のテクノロジー大手は数十億ドルをかけてより大規模なデータセンターを建設し、より強力なモデルを開発しようと努力しています。

ココタエロ氏の警告は、AI軍備競争が白熱する中で出されたものです。これは業界内で技術の安全性について深い懸念があることを示しています。モデルの能力が飛躍的に向上する中で、技術の限界を追求することと人間のコントロールを維持することのバランスを取ることが、今後の安全を決める鍵となっています。