2026年のスナップドライブ峰会上、クアルコムはPrismML社と協力し、スナップドライブAR1 Gen 1スマートグラスプラットフォーム上で、20億パラメータの1ビット量子化Bonsaiビジョンモデルをローカルで実行することに成功しました。これにより、AIグラスはオフライン状態でも画像認識と質問応答が可能になりました。

1ビット量子化、メモリ容量は4ビットモデルの1/4

Bonsaiの1ビットモデルは、以前PrismMLが公開したBonsai 1.7Bバージョンに基づいて構築されており、モデルの精度を1ビットに圧縮して、ストレージおよび推論に必要なメモリリソースを削減しています。公式によると、同じメモリ容量で約4倍のパラメータを収容でき、メモリ使用量は従来の4ビットモデルの1/4程度であり、テキストトークン生成速度は2倍になります。

オフラインでのインタラクションでバッテリー駆動時間と装着感を改善

実際の使用シナリオにおいて、識別対象の物体や翻訳が必要な文章、環境に関する質問への回答、手を使わない音声によるアシスタンスなど、AIインタラクションはクラウドに接続して待つ必要がなくなり、ローカルで直接処理できます。1ビットモデルはメモリと消費電力を削減できるため、バッテリー駆動時間を延長し、発熱を抑えることができ、全体的な装着体験を向上させます。これは、サイズと放熱に制限があるスマートグラスにとって特に重要です。