GPTシリーズのような大規模言語モデル（LLM）は、膨大なデータセットを活用することで、言語理解、推論、計画において驚くべき能力を示し、様々な困難なタスクで人間と同等のレベルに達しています。多くの研究は、より大きなデータセットでこれらのモデルを訓練することで、さらに能力を高め、より強力な基盤モデルを開発することに重点を置いています。

しかし、より強力な基盤モデルの訓練が重要である一方で、推論段階でも継続的に進化する能力、つまりAIの自己進化を付与することも、AIの発展には同様に重要であると研究者たちは考えています。大規模データを用いたモデル訓練と比較して、自己進化は限られたデータやインタラクションしか必要としない可能性があります。

image.png

人間の脳皮質の柱状構造に着想を得て、研究者たちは、AIモデルが環境との反復的なインタラクションを通じて、創発的な認知能力を発展させ、内部表現モデルを構築できると仮定しています。

この目標を達成するために、研究者たちは、モデルが処理済みの現実世界のインタラクションデータを保存・管理するための長期記憶（LTM）を備えている必要があると主張しています。LTMは、統計モデルにおいて長尾の個別データを表現できるだけでなく、様々な環境やエージェントにおける異なる経験を横断的にサポートすることで、自己進化を促進します。

LTMはAIの自己進化を実現するための鍵です。人間が個人的な経験や環境とのインタラクションを通じて継続的に学習し、改善していくように、AIモデルの自己進化もインタラクション過程で蓄積されたLTMデータに依存します。人間の進化とは異なり、LTM駆動のモデル進化は現実世界のインタラクションに限定されません。モデルは人間のように物理環境とインタラクションし、直接的なフィードバックを受け取ることができます。これらのフィードバックは処理された後、モデルの能力を高め、これは具象AIの重要な研究分野でもあります。

一方で、モデルは仮想環境でインタラクションを行い、LTMデータを蓄積することもできます。現実世界とのインタラクションと比較して、これはコストが低く、効率性が高いことから、より効果的に能力を高めることができます。

image.png

LTMを構築するには、生データを精製し、構造化することが必要です。生データとは、モデルが外部環境とのインタラクションを通じて、または訓練過程で受け取った、あらゆる未処理データの集合を指します。これらのデータには様々な観察結果や記録が含まれており、価値のあるパターンと大量の冗長な情報や無関係な情報が含まれている可能性があります。

生データはモデルの記憶と認知の基礎を形成しますが、パーソナライズされた、または効率的なタスク実行のために効果的に使用するには、さらなる処理が必要です。LTMはこれらの生データを精製し、構造化することで、モデルがそれらを使用できるようにします。このプロセスは、モデルがパーソナライズされた応答や提案を提供する能力を高めます。

LTMの構築には、データのスパース性とユーザーの多様性といった課題があります。継続的に更新されるLTMシステムでは、特にインタラクション履歴が限られている、または活動が散発的なユーザーの場合、データのスパース性は一般的な問題であり、モデルの訓練を困難にします。さらに、ユーザーの多様性も複雑さを増し、モデルは個々のパターンに適応すると同時に、異なるユーザー集団を横断して効果的に一般化できる必要があります。

研究者たちは、LTMに基づいてAIの自己進化を実現するOmneというマルチエージェント協調フレームワークを開発しました。このフレームワークでは、各エージェントは独立したシステム構造を持ち、自律的に学習し、完全な環境モデルを保存することで、環境に対する独立した理解を構築します。このLTMに基づく協調開発により、AIシステムは個々の行動の変化にリアルタイムで適応し、タスクの計画と実行を最適化し、さらにパーソナライズされた効率的なAIの自己進化を促進します。

OmneフレームワークはGAIAベンチマークテストで1位を獲得し、LTMを活用したAIの自己進化と現実世界の課題解決の大きな可能性を示しました。研究者たちは、特に自己進化の観点から、LTMの研究を進めることがAI技術の継続的な発展と実用化に極めて重要だと考えています。

要約すると、長期記憶はAIの自己進化の鍵であり、AIモデルが人間のように経験から学習し、改善することを可能にします。LTMの構築と活用には、データのスパース性とユーザーの多様性といった課題を克服する必要があります。Omneフレームワークは、LTMに基づくAIの自己進化のための現実的なソリューションを提供し、GAIAベンチマークテストでの成功は、この分野の大きな可能性を示しています。

論文：https://arxiv.org/pdf/2410.15665