重點摘要:
- 蘋果正在評估PrismML的技術,該技術可將AI模型壓縮至原始大小的十五分之一
- 一個270億參數的模型可在iPhone 15上完全執行,無需雲端處理
- 壓縮後的模型記憶體用量減少10至15倍,回應速度提升6至8倍
重點摘要:

一家矽谷新創公司聲稱,能將一個270億參數的AI模型壓縮到足以完全在iPhone上執行,此舉可能重塑蘋果的裝置端AI策略。
蘋果正在評估PrismML的技術,該技術可將AI模型壓縮至原始大小的十五分之一,讓一個270億參數的模型無需雲端處理,即可直接在iPhone 15上執行。
「他們確實正在評估我們的技術,」PrismML執行長Babak Hassibi向CNBC表示,並形容雙方的討論仍處於早期階段,但「進展順利」。
PrismML將每個模型數值從16位元縮減為1個或3個可能的值,使記憶體需求降低10至15倍。根據該新創公司表示,壓縮後的模型回應速度快六到八倍,能耗比傳統版本減少三到六倍。其代價是準確率下滑幾個百分點,事實回憶能力減弱,但推理或編碼能力受到的影響較小。
在裝置端而非雲端運行更多AI功能,可降低延遲、減少蘋果的雲端運算成本,並強化其隱私優勢——這是蘋果在嘗試讓Siri與OpenAI及Anthropic的助手競爭時的關鍵優勢。摩根士丹利估計,蘋果在2027財年每單位記憶體成本可能年增約190%,使得裝置端效率提升的價值日益增加。
此技術源自Hassibi在加州理工學院的研究團隊,該校擁有相關底層專利,並獨家授權給PrismML。今年3月,該新創公司完成一輪1625萬美元的種子輪融資,由Khosla Ventures及其他投資人支持。PrismML於週二公開發布了阿里巴巴開源模型Qwen的兩個壓縮版本,專為在iPhone、MacBook及Nvidia驅動的PC上運行而設計。
蘋果已在本地運行部分AI功能,包括翻譯及某些摘要任務。較複雜的請求則被導向其私有雲端基礎設施或外部模型。該公司本週開放了iOS 27的公測版本,讓用戶首次大規模體驗到延宕已久的Siri大改版。
這對蘋果晶片策略的意義
蘋果能否整合這項技術,可能取決於其對硬體與軟體的嚴密掌控。該公司自行設計晶片,使其在優化裝置端AI的記憶體使用與功耗方面,比依賴高通或聯發科處理器的競爭對手更具靈活性。
Asymco創辦人Horace Dediu表示,優勢不僅在於使用更少記憶體,更在於能在相同的物理限制內容納更強大的模型。「他們正在設法弄清楚,能在裝置上放進多大的模型、多聰明的模型,」他說。
Creative Strategies總裁兼首席分析師Carolina Milanesi則指出,更小的模型可能讓蘋果將更多高要求功能轉移到iPhone上,包括運算攝影、影片生成,以及依賴敏感個人數據的健康或健身工具。「在裝置端能做的越多就越好,」她說。
記憶體需求之爭
PrismML發布此技術之際,業界正激烈辯論AI效率的提升最終是否會降低對記憶體晶片及昂貴數據中心基礎設施的需求。該新創公司表示,其方法可讓一個通常需要八個圖形處理器(GPU)的雲端模型僅用一個GPU即可運行,同時還能將模型從伺服器轉移到手機上。
D.A. Davidson分析師Gil Luria表示,縮小模型並不會消除對處理器或記憶體的需求——它可能只是將更多晶片從數據中心轉移到手機中。「這不代表你不需要晶片了,」Luria說。「你仍然需要GPU,也仍然需要記憶體。」
Counterpoint Research研究總監Tarun Pathak則提醒,PrismML的說法仍有待大規模驗證。「最終的考驗將是數百萬次查詢、數千種裝置組合,以及大規模的穩健測試,」他表示。
IDC客戶端處理器研究主管Phil Solis表示,功耗可能是最大的未知數。一個能力足夠強大、能夠持續在背景運行以執行代理式任務的模型,即使所需記憶體較少,也可能耗盡手機電量。
投資人觀點
如果PrismML的技術獲得驗證,蘋果可望減少對雲端AI基礎設施的依賴,同時提升Siri的功能——這可能為未來iPhone的溢價定價提供依據。摩根士丹利預期,蘋果將把同級iPhone 18機型的起售價提高約200美元,以保護利潤率免受記憶體成本上升的影響。蘋果本益比約為預期收益的30倍,市場尚未完全反映裝置端AI處理所帶來的潛在成本節省。
本文僅供資訊參考,不構成投資建議。