最近、OpenAIの共同創設者であるAndrei Karpathyは、AIエージェントの現状に対して厳しい批判を述べました。彼は、AI技術が急速に発展しているにもかかわらず、現在のエージェントは「使い勝手が悪い」と指摘しています。あるインタビューで、「今のエージェントは知能レベルが低く、マルチモーダル能力がなく、実際にコンピュータを操作することはできず、継続的な学習もできない」と語っています。彼はこれらのシステムがユーザーからの入力情報を覚えておらず、認知能力が十分ではないため、多くの場合、ユーザーのニーズに応えられていないと考えています。

Karpathyは、こうした問題を解決するには少なくとも10年かかると予測しています。業界では2025年が「エージェントの年」と期待されているものの、彼はそれを楽観的な幻想だと考えています。彼は説明します。「エージェントはタスクを自主的に完了できる能力を持ち、問題を分解し、計画を立て、ユーザーの干渉なしに自動的に実行できるべきだ。しかし現実には、こうした目標はまだ遠いものである。」

さらに彼は、現在のAIの発展速度がエージェント自身の能力をはるかに超えていると述べています。Karpathyは自ら形象的に表現しました。「現在のAI業界はすでに未来にいるようなものだ。完全な自動化されたシステムが独自にコードを書いているが、人間の関与感はどんどん少なくなっている。」彼はこれを懸念しており、このような未来を見てはいけないと述べています。

Karpathyの理想のAI世界では、人とAIの協働は補完的であるべきです。彼はエージェントがAPIドキュメントを主動的に呼び出し、正確にインターフェースを呼び出せるようにすることを望んでいます。単に推測するのではなく、そうすることを望んでいます。彼はAIが協働を通じて学び成長することを望んでおり、ただ無意味なコードのリストを提供するだけではダメだと考えています。彼は、人間を置き換えることを追求し続けると、最終的には人間の価値が低下し、AIによって生成される質の低いコンテンツがネット上を溢れかえることになると信じています。

現在のAIの発展に対して悲観的であることを表明しながらも、KarpathyはAIの悲観主義者ではないと強調しています。彼は、将来的な予測を慎重にしていることを強調しつつ、「AIを完全に否定する見解とは比べてみれば、彼の態度は依然として楽観的である」と述べています。