五一黄金週が近づく中、騰訊混元チームは近日、専門的な翻訳大規模モデルの極限的な量化バージョンを公開し、海外旅行を計画しているユーザーに強力な言語解決方案を提供しました。このモデルの名前はHy-MT1.5-1.8B-1.25bitで、サイズは440MBにまで圧縮され、スマートフォンでスムーズに動作します。

image.png

極限的な圧縮技術により、スマホでオフライン直結

このモデルは先進的な量子化技術を使用して、もともと3GBを超えるサイズを元の8分の1にまで圧縮しました。これにより、通常のスマートフォンのバックグラウンドで簡単に常駐することが可能になります。ネットワーク信号が全くない山間部や突発的な状況でも、ユーザーは即時で高品質な翻訳サービスを得ることができます。

異なる機種に対応するため、チームは2ビットと1.25ビットの2つのバージョンを提供しています。そのうちの1.25ビットバージョンでは、学術的なトップ会議で採択された「細粒度の疎れ」戦略が採用されています。4つのパラメータのうち3つは1ビットで保存され、非常に小さなサイズでも強力な翻訳性能を維持することができます。

image.png

プロ級の翻訳品質とプライバシーのセキュリティ保障

サイズが小さくなったにもかかわらず、このモデルは33言語、5つの方言および数千の翻訳方向において優れた実力を示しています。多くの権威ある評価基準において、翻訳の正確性はグーグル翻訳を上回り、パラメータ量が大きな商用モデルと同等です。

翻訳処理はすべてスマートフォンのローカルで行われるため、ユーザーは個人の機密情報の収集やアップロードを心配する必要がありません。これはプライバシーの安全性を大幅に向上させています。現在、プロジェクトは完全にオープンソースになっており、デモも提供されており、Androidユーザーは「バックグラウンド単語検索」などの効率的な機能を体験できます。また、サブスクリプション費用は一切不要です。

体験リンク:

  • Huggingface（海外ユーザー）:https://huggingface.co/AngelSlim/Hy-MT1.5-1.8B-1.25bit-GGUF/resolve/main/Hy-MT-demo.apk

  • 魔搭コミュニティ（国内ユーザー）:https://modelscope.cn/models/AngelSlim/Hy-MT1.5-1.8B-1.25bit-GGUF/resolve/master/Hy-MT-demo.apk