面壁小鋼炮MiniCPM-V系列的最新版本2.6自發布以來，在全球著名開源社區GitHub和HuggingFace趨勢榜上迅速上升至Top3，其GitHub星標數量已破萬。自2月1日首次亮相至今，MiniCPM系列的累計下載量已超過百萬次，成爲端側模型能力極限的一個重要衡量標準。

微信截圖_20240813081342.png

MiniCPM-V2.6以其8B參數實現了單圖、多圖、視頻理解的全面性能提升，超越了GPT-4V。這款端側多模態模型首次集成了實時視頻理解、多圖聯合理解、多圖ICL等高端功能。它在量化後端側內存僅佔6GB，端側推理速度高達18tokens/s，比上代模型快33%，並且支持llama.cpp、ollama、vllm推理，同時支持多種語言。

這一技術突破在全球技術圈引起了熱烈反響，許多開發者和社區成員對MiniCPM-V2.6的發佈表現出極大興趣。

目前，MiniCPM-V2.6的GitHub和Hugging Face開源地址已對外公佈，同時提供了llama.cpp、ollama、vllm部署教程的鏈接。

 MiniCPM-V2.6GitHub 開源地址:

https://github.com/OpenBMB/MiniCPM-V

MiniCPM-V2.6Hugging Face 開源地址:

https://huggingface.co/openbmb/MiniCPM-V-2_6

llama.cpp、ollama、vllm 部署教程地址:

https://modelbest.feishu.cn/docx/Duptdntfro2Clfx2DzuczHxAnhc