隨着五一黃金週臨近,騰訊混元團隊近日發佈了其專業翻譯大模型的極致量化版本,爲計劃出國旅遊的用戶提供了硬核的語言解決方案。這款名爲Hy-MT1.5-1.8B-1.25bit的模型僅有440MB,支持在手機本地流暢運行。

image.png

極致壓縮技術實現手機離線直連

該模型通過先進的量化技術,將原本超過3GB的體積壓縮至僅原來的八分之一,使其能輕鬆常駐普通手機的後臺。即便在完全沒有網絡信號的偏僻景區或突發狀況下,用戶依然可以獲得即時且高質量的翻譯服務。

針對不同機型,團隊推出了2-bit與1.25-bit兩種方案。其中,1.25-bit版本採用了被學術頂會錄用的“細粒度稀疏”策略,每4個參數中有3個用1-bit儲存,確保在極小體積下仍能保持強大的翻譯性能。

image.png

專業級翻譯質量與隱私安全保障

雖然體積精簡,但該模型在33種語言、5種方言及上千個翻譯方向上展現了卓越的實力。在多項權威評測基準中,其翻譯準確度不僅超越了谷歌翻譯,更比肩參數量巨大的商用模型。

由於翻譯過程完全在手機本地完成,用戶無需擔心個人敏感信息的採集或上傳,極大提升了隱私安全性。目前該項目已全面開源並提供Demo,支持安卓用戶體驗“後臺取詞”等高效功能,且無需任何訂閱費用。

體驗鏈接:

  • Huggingface(海外用戶):https://huggingface.co/AngelSlim/Hy-MT1.5-1.8B-1.25bit-GGUF/resolve/main/Hy-MT-demo.apk

  • 魔搭社區(國內用戶):https://modelscope.cn/models/AngelSlim/Hy-MT1.5-1.8B-1.25bit-GGUF/resolve/master/Hy-MT-demo.apk