8月5日、AIスタートアップのLiquid AIは、エージェントワークフロー専用のエッジモデルであるLFM2.5-2.6Bの正式リリースを発表しました。このモデルは26億のパラメータを持ち、クラウドAPIに依存することなくスマートフォンなどの端末で完全なローカル実行が可能で、開発者に低コスト、低遅延かつプライバシー保護を兼ね備えたエッジ側のエージェントソリューションを提供します。
技術構造とトレーニングアプローチにおいて、LFM2.5-2.6Bは約34兆語のトークンで事前トレーニングされており、語彙表は128Kに拡張されています。その後のトレーニングプロセスには、監督微調整、教師特化、多分野戦略蒸留およびエージェント強化学習の4つの段階が統合されており、このモデルは優れた計画能力、ツール呼び出しおよび複雑なマルチステップタスク処理能力を備えています。ベンチマーキングテストによると、このモデルは命令の遵守やツールの使用において、規模がほぼ4倍の大きなモデルと同等の性能を示しています。
さらに、このモデルはハードウェアの互換性と推論性能においても優れています。M5Maxチップ上で推論速度は220トークン/秒に達し、スマートフォンでも安定した30トークン/秒の応答速度を維持できます。現在、LFM2.5-2.6BとそのベースバージョンはHugging Faceで全面的にオープンソース化されており、llama.cpp、MLX、vLLMなどの主要な推論フレームワークをネイティブサポートしています。これは、高効率エッジ側エージェントが実用化の段階に入ったことを示しています。
