阿里巴巴開源項目MNN（Mobile Neural Network）發佈了其移動端多模態大模型應用MnnLlmApp的最新版本，新增對Qwen-2.5-Omni-3B和7B模型的支持。這款完全開源、運行於移動端本地的大模型應用，支持文本到文本、圖像到文本、音頻到文本和文本到圖像生成等多種模態任務，以其高效性能和低資源佔用引發開發者廣泛關注。AIbase觀察到，MNN的此次更新進一步推動了多模態AI在移動端的普及。

QQ20250513-094907.jpg

項目地址：

https://github.com/alibaba/MNN/blob/master/apps/Android/MnnLlmChat/README.md

核心亮點:多模態能力全面增強

新版MnnLlmApp集成了Qwen-2.5-Omni-3B和7B模型，依託阿里雲Qwen團隊的Thinker-Talker架構，實現對文本、圖像、音頻和視頻的綜合處理能力。AIbase瞭解到，應用支持以下功能:

文本到文本:生成高質量對話、報告或代碼，媲美雲端模型。

圖像到文本:識別圖像中的文字或描述場景內容，適用於文檔掃描和視覺問答。

音頻到文本:高效轉錄語音，支持多語言語音識別。

文本到圖像:通過擴散模型生成高質量圖像，滿足創意設計需求。

社交媒體反饋顯示，開發者對Qwen-2.5-Omni-3B在24GB GPU上的運行表現尤爲滿意，其在OmniBench基準測試中保留了7B模型90%以上的多模態性能，同時內存佔用降低超50%（從60.2GB降至28.2GB）。

技術優勢:本地推理與極致優化

MNN框架以其輕量化和高性能著稱，專爲移動端和邊緣設備優化。AIbase編輯團隊注意到，新版MnnLlmApp在CPU推理上表現卓越，預填充速度比llama.cpp快8.6倍，解碼速度快2.3倍。 應用完全本地運行，無需聯網即可處理多模態任務，確保數據隱私不被上傳至外部服務器。支持的模型範圍廣泛，涵蓋Qwen、Gemma、Llama、Baichuan等主流開源模型，開發者可通過GitHub直接下載並構建應用。此外，MNN提供FlashAttention-2支持，進一步提升長上下文處理的效率。

應用場景:從開發到生產

MnnLlmApp的多模態能力使其在多種場景中展現潛力:

教育與辦公:通過圖像到文本功能掃描文檔，或用音頻到文本轉錄會議記錄。

創意設計:利用文本到圖像生成宣傳素材或藝術作品。

智能助手:構建本地化語音交互應用，如離線導航或客服助手。

開發者學習:開源代碼和詳細文檔爲移動端大模型開發提供了參考範例。

AIbase分析認爲，MNN的開源屬性和對Qwen-2.5-Omni的支持，使其成爲開發者探索移動端多模態AI的理想平臺。社交媒體上，開發者表示，MnnLlmApp的推理速度（Llama3.18B預填充28tokens/s）雖未達到頂尖水平，但其多模態集成和易用性足以滿足原型開發需求。

行業背景:移動端AI的開源熱潮

MNN的更新正值移動端AI競爭升溫。DeepSeek的R1模型和Baichuan-Omni近期也推出了開源多模態解決方案，強調本地化部署和低成本。 然而，MNN憑藉阿里生態支持和硬件優化（如對Android設備的深度適配）在性能與兼容性上佔據優勢。AIbase注意到，阿里雲已開源超200個生成式AI模型，Qwen系列在Hugging Face的下載量突破8000萬，顯示出其全球影響力。 MnnLlmApp的iOS版本也已發佈，進一步擴大了其跨平臺覆蓋。

移動端多模態的未來

MnnLlmApp的此次更新標誌着多模態AI從雲端向邊緣設備的加速遷移。AIbase編輯團隊預計，隨着Qwen-2.5-Omni模型的持續優化（如支持更長視頻或更低延遲語音生成），MNN將在智能家居、車載系統和離線助手領域發揮更大作用。然而，社交媒體也指出，應用的模型加載流程(需從源碼構建外部模型)仍需簡化，以提升用戶友好性。