PrismML 的 270 億參數模型在 iPhone 上運行，強化蘋果裝置端 AI

一個 270 億參數的 AI 模型現已完全在 iPhone 上運行，將資料中心級別的工作負載壓縮至 3.9 GB 的本地記憶體之中。

裝置端 AI 在 7 月 14 日跨越了一個重要門檻——由加州理工學院創辦人成立的 PrismML 發布了 Bonsai 27B，這是一款僅佔 3.9 GB 記憶體的模型，可在蘋果 iPhone 17 Pro 上運行，同時保留原始模型 90% 的效能。

PrismML 執行長向 CNBC 表示：「蘋果正就這項技術進行非常早期的討論。」他拒絕透露任何整合的時間表。這家新創公司的突破並不在於壓縮本身——縮小開放模型已是常規操作——而在於如何在壓縮的同時避免效能崩潰，這是先前多次嘗試均告失敗的關鍵難題。

Bonsai 建構於阿里巴巴的開放權重模型 Qwen3.6 之上，這是一個 270 億參數的架構，通常會超出手機可用的記憶體範圍。壓縮至 3.9 GB 後，它可在 iPhone 17 Pro、iPad、Mac 及個人電腦上運行。蘋果最新 iPhone 搭載的 A19 與 A19 Pro 晶片配備了專用神經加速器，蘋果聲稱這能為 AI 效能帶來顯著提升。在 4 月的第二季財報電話會議上，蘋果管理層將 Mac 描述為「最佳的 AI 平台」，其晶片足以在裝置端運行先進模型。這項壓縮突破之所以重要，是因為它消除了本地推論的最後一道障礙：一個既小到足以裝入裝置記憶體、又聰明到足以實用的模型。

這背後的利害關係遠不止於消費者的便利性。OpenAI 在 2 月突破了 9 億週活躍用戶，其中付費訂閱用戶約 5,000 萬——轉換率接近 5.5%。如果運行於裝置本地的免費開放權重模型持續進步，前沿實驗室的消費者訂閱模式將面臨結構性壓力。蘋果的處境有所不同：其業務在於銷售硬體，因此本地 AI 浪潮意味著每台裝置需要更多的記憶體與運算能力，這雖然會推高銷售成本，但也強化了產品升級週期。

蘋果 A19 晶片專為本地推論而生

A19 與 A19 Pro 的神經加速器正是為裝置端推論而設計，然而蘋果自身的 AI 執行表現並不穩定。重建後的 Siri 在 2 月的內部測試中未達預期，不過管理層在 7 月 30 日的財報電話會議上語氣樂觀。Siri AI 已進行數週的公開測試版，早期回饋正面。7 月，蘋果在聯邦法院對 OpenAI 提起訴訟，指控其竊取商業機密，事涉加入該實驗室的前蘋果工程師，並聲稱這些機密被用來協助 OpenAI 打造自家裝置。

這起訴訟將蘋果「裝置優先」與 OpenAI「雲端訂閱」之間的競爭張力呈現得淋漓盡致。蘋果的晶片優勢——A19 與 A19 Pro 中的神經加速器——正是為 Bonsai 所實現的這類本地推論而精心設計。如果第三方開放權重模型能在蘋果硬體上有效運行，那麼蘋果內部基礎模型的開發工作對其 AI 敘事的重要性將相對降低，硬體本身反而成為關鍵差異化因素。

誰來將消費者 AI 變現？

大多數消費者 AI 使用是免費的，而開放權重替代方案的出現正逐步侵蝕付費層級。蘋果對 OpenAI 的訴訟將消費級 AI 之爭推向鎂光燈下，但該公司在財報電話會議上對這起訴訟隻字未提。對蘋果而言，機會不在訂閱收入，而在於裝置差異化：能夠離線運行的強大本地 AI、資料保留在裝置端、且無需按月付費。蘋果股價上週五收於 308.91 美元，下跌 7.35%，市值達 4.9 兆美元，投資人正權衡記憶體成本飆升與裝置端 AI 機遇之間的利弊。隨著 PrismML 等突破的出現，消費者或許無需等待太久，就能獲得可離線運行、資料保留於裝置且無需訂閱的強大 AI。

本文僅供參考，不構成投資建議。