據科技媒體The Information報道,蘋果公司正接洽AI初創公司PrismML,評估在iPhone上直接運行更大規模AI模型的可行性。這一動作意味着蘋果可能在端側AI能力上迎來重大突破,讓手機跑起原本需要雲端算力支撐的大型語言模型。

PrismML是加州理工學院衍生出來的AI初創公司,核心突破爲原生1-bit模型壓縮技術。該技術可將模型體積壓縮至全精度版本的約十四分之一,內存佔用降低超90%。傳統量化方案通常只是降低精度但仍保留多比特權重,而PrismML的權重僅用負 1 和正 1 兩個值表示,配合分組縮放因子完成計算,從架構層面徹底重構了模型的存儲與推理方式。

蘋果,iPhone14,發佈會

沒有"高精度逃生通道",卻接近原版精度

PrismML宣稱其技術沒有傳統量化方案中常見的"高精度逃生通道"——即部分關鍵層仍保留高精度以彌補性能損失的折中做法。在完全採用1-bit權重的前提下,該技術仍能保持接近FP16 模型的精度水平。同時,推理速度最高提升 8 倍,能耗降低75%至80%,這意味着在不犧牲模型質量的情況下,手機端運行大型AI模型所需的算力和電量門檻被大幅拉低。

27B參數Qwen 3. 6 已在iPhone 17 Pro上完整跑通

最關鍵的實戰證據已經出爐。PrismML將阿里巴巴開源的27B參數大型語言模型Qwen 3. 6 進行壓縮後,成功在iPhone 17 Pro上完整運行。27B參數規模的模型在傳統方案下幾乎不可能在手機端流暢運行,而經過PrismML的1-bit壓縮後,不僅成功跑通,還保持了接近原版的推理質量。蘋果正是看中了這一量化能力,希望藉此進一步增強本地AI模型的推理性能。

對蘋果而言,端側AI能力的強弱直接關係到Apple Intelligence生態的競爭力。目前iPhone上的AI模型規模和功能仍受限於內存與功耗,如果PrismML的壓縮技術能夠落地,iPhone有望在不增加硬件成本的前提下運行更大規模的模型,實現更復雜的多輪對話、圖像理解和智能體任務編排。當手機端也能跑起旗艦級大模型,端側AI與雲端AI的實力天平或許將迎來重新校準。