Perplexity 宣佈推出一項名爲 Hybrid Compute(混合計算)的新功能,允許用戶把一項任務同時拆分給雲端前沿模型和本地大語言模型處理——其中敏感信息交給本地模型,確保相關數據始終安全地留在用戶自己的設備中。

image.png

上傳即檢測敏感內容,本地模型一鍵安裝

Perplexity Mac 產品負責人 Jon Staff 介紹,這項功能直接集成在 Mac 應用中:“每當你嘗試上傳文件或發送信息時,系統都會自動檢查其中是否包含敏感內容,並確認你是否願意將這些數據分享至雲端。”

爲此,Perplexity 還訓練了一種新的隱私分類器,能夠自動建議用戶應當保留在電腦本地的文件和信息。在任務正式分配給不同模型之前,用戶可以先查看系統準備隔離、留在本地的文件,確認沒有遺漏重要內容,並自行決定由哪些模型來完成任務。

目前可用的本地模型包括 Gemma E4B,以及兩個版本的 Qwen 3.6 模型,其中兩個 Qwen 3.6 版本均擁有 350 億參數,且其中一個經過 Perplexity 的後訓練。公司表示未來還會提供更多本地模型。無論選哪一種,安裝過程都不需要打開 Mac 終端,由 Perplexity 應用自動完成。運行期間,用戶可以看到本地 CPU、GPU 和內存使用情況的可視化信息,側欄則顯示任務已消耗的令牌數量;本地模型生成的令牌不產生費用,結果產出後仍可繼續輸入後續指令,也能通過 iPhone 將任務加入隊列。

雲端更強但更貴,這是一條“可調節的尺度”

當被問及是否將混合計算的結果與純雲端方案做過基準測試時,Staff 坦言:“簡短來說,如果只看原始產物的生成質量,完全使用前沿模型的輸出幾乎總是更好。它的成本更高,但能力也更強。”不過他補充說,並非所有用戶都需要最先進、最強大的模型來完成工作,在這類情況下,數據隱私和成本可能比模型能力更重要。

“我認爲這應該是一條可調節的尺度……我們會根據掌握的上下文,嘗試推薦最合適的方案,但最終仍應由用戶決定哪種解決方案最符合自身需求。”Staff 表示。

目前,Hybrid Compute 僅適用於搭載 Apple Silicon 芯片、運行 macOS 15 的 Mac 電腦,Perplexity 建議設備至少配備 32GB 統一內存。該功能面向 Pro 和 Max 訂閱用戶以及企業客戶開放。