Perplexity は、クラウドの先進モデルとローカルの大規模言語モデルを同時に使用できる新しい機能「Hybrid Compute（ハイブリッドコンピュート）」をリリースしました。この機能により、ユーザーはタスクをクラウドの先進モデルとローカルの大規模言語モデルに同時に分割して処理できます。そのうち、機密情報はローカルモデルに送られ、関連データが常にユーザー自身のデバイス内で安全に保たれるようにします。

image.png

ファイルアップロード時に機密情報を検出し、ローカルモデルをワンクリックでインストール

PerplexityのMac製品責任者であるJon Staff氏は、この機能について次のように説明しています。「ファイルをアップロードしたり、メッセージを送信しようとするたびに、システムは自動的にその中に機密情報が含まれていないかをチェックし、これらのデータをクラウドに共有することに同意するかどうかを確認します。」

このため、Perplexityは新たなプライバシーカテゴライザを訓練し、ユーザーがパソコンに残すべきファイルや情報を自動的に提案できるようにしました。タスクが異なるモデルに割り当てられる前に、ユーザーはシステムがローカルに隔離して保持するファイルを事前に確認でき、重要な情報を見逃していないかを確認し、どのモデルでタスクを実行するかを自分で決定できます。

現在利用可能なローカルモデルには、Gemma E4Bおよび2種類のQwen 3.6モデルが含まれます。この2つのQwen 3.6モデルともに350億パラメータを持ち、そのうち1つはPerplexityによって後続トレーニングされています。会社側は今後さらに多くのローカルモデルを追加する予定です。どのモデルを選んでも、Macの端末を開く必要はなく、Perplexityアプリが自動的にインストールを行います。実行中には、ローカルCPU、GPU、メモリ使用状況の可視化情報を表示し、サイドバーでは処理されたトークン数が表示されます。ローカルモデルで生成されたトークンは費用がかからないため、結果が出力された後も後続の指示を入力し続けることができ、iPhoneからタスクをキューに追加することも可能です。

クラウドは強力だが高価、これは調整可能な尺度

混合計算の結果と純粋なクラウド方式とのベンチマークテストをしたかどうかについて尋ねられたStaffは、「簡潔に言うと、元の出力の品質だけを見れば、先進モデルを完全に使用した場合の出力はほぼ常に優れています。コストは高いですが、能力もより強力です。」と述べました。しかし彼は、すべてのユーザーが仕事に最前線で最も進んだモデルが必要というわけではなく、このような状況ではデータのプライバシーやコストの方がモデルの能力よりも重要になることがあると補足しました。

「私はこれこそが調整可能な尺度であると考えています。私たちが持っている文脈に基づいて、最も適切な解決策を提案しようとしますが、最終的にはユーザー自身が自分のニーズに最も合った解決策を選ぶべきです」とStaff氏は語っています。

現在、Hybrid ComputeはApple Siliconチップを搭載し、macOS 15を動作させるMacコンピューターでのみ利用可能です。Perplexityは、少なくとも32GBの統合メモリを備えたデバイスを使用することを推奨しています。この機能はProおよびMaxサブスクリプションユーザーおよび企業向けに提供されています。