最近、伝音控股と阿里雲が協力し、通義千問大規模言語モデルを伝音傘下のテクノロジーブランドTECNOが発売したAI搭載スマートフォンPHANTOM V Fold2に搭載することに成功しました。これにより、高度なローカライズを実現した「実用的なAI」が誕生しました。

このスマートフォンでは、専用のAIボタンを使用することで、ユーザーはワンタッチで端末側の大規模言語モデルを呼び出すことができます。オフライン環境でも、複数回にわたるAI対話がスムーズに実行され、文書や通話の要約などの機能も利用可能です。伝音と阿里雲は、このスマートフォンにおいて、MediaTekチップに基づき、モデルの軽量化、ツールチェーンの最適化、推論の最適化、メモリの最適化など、複数の側面にわたる技術革新を行いました。

阿里雲、通義千問

アリババの淘系技術が最近オープンソース化したMNN-LLM大規模言語モデル推論エンジンの高効率GPUアクセラレーション機能を活用することで、大規模言語モデルをスマートフォンに真に「搭載」することが可能になりました。今年3月、世界最大のスマートフォンチップメーカーであるMediaTekは、天璣9300などのフラッグシップチップに既に通義千問大規模言語モデルの導入に成功しています。

伝音は近年、端末側AI技術の展開を加速し、大規模言語モデルと相互接続技術、画像AIGC技術、少数言語AI音声技術などを探求しています。伝音は、端末AI機能の独自の特性をより深く、詳細に実現し、AIとローカルライフアプリケーションの深い統合を推進することを目指しています。今後、阿里雲は伝音と共に、大規模言語モデルの端末への導入について更に深く探求し、より多くのモデルを阿里雲のネットワークに展開することで、世界中のユーザーにパーソナライズされたインテリジェントな体験を提供していきます。