グーグルはAI翻訳をクラウドから自社に引き戻しました。8月6日、グーグルのCreative Labチームは、オフライン翻訳デバイス「Gemma Translator」をリリースしました。このデバイスは自社のGemma4E2Bモデルを搭載しており、パラメータ総数が51億で、アクティブなパラメータが23億です。設計目標は明確で、スマートフォン、ブラウザ、ラズベリー・パイなどのリソース制限されたエッジデバイス向けに開発されています。

image.png

ハードウェアのベースはラズベリー・パイ5の単板コンピューターです。ユーザーがマイクに向かって話すと、デバイスは音声をターゲット言語に変換し、スピーカーで翻訳文を読み上げます。同時にディスプレイに翻訳前後のテキストを同期表示します。このすべての処理プロセスはローカルで行われます：翻訳推論はグーグルがエッジデバイス開発者向けに用意したLiteRT-LM実行フレームワークが担当し、音声認識と音声合成にはMoonshineのAIローカル処理が使用されます。これは、ネットワークが完全に切れた状態でも、異なる言語を話す人と対面でコミュニケーションできるということを意味しています。

大規模なモデルを手のひらサイズの開発ボードに詰め込み、オフライン翻訳を実行するというこの取り組みの意義は、パラメータの大きさにあるのではなく、グーグルが明確な製品化の道を示した点にあります。エッジ側モデルはもはや、ラボでの技術デモだけではなく、実際に独立した製品として封印され、電源を入れるだけで使用でき、ネットワークに依存しない製品になるのです。