蘋果手機運行大型 AI 模型無需伺服器,據《The Information》報導,蘋果近期已與 AI 新創 PrismML 展開接觸,評估將其模型壓縮技術應用於未來產品。PrismML 的核心能力,是將原本需仰賴雲端伺服器運行的大型語言模型,壓縮至可直接在 iPhone 等裝置端執行,這正是蘋果強化 Apple Intelligence 時最需要的關鍵技術。

PrismML 已成功將阿里巴巴開源的大型語言模型 Qwen 3.6 最佳化,使其可在 iPhone 17 Pro 上運行,該模型具備約 270 億個參數。PrismML 表示,這套模型已具備軟體開發能力,並預計於 7 月 14 日以開源形式發布。對蘋果而言,模型壓縮技術的價值在於把更大的模型搬上裝置端,降低對雲端運算的依賴,同時兼顧回應速度、隱私保護與運算成本,這三項正是 Apple Intelligence 至今仍被詬病落後同業的短板。


裝置端運行大模型的吸引力,在於資料無需上傳雲端即可完成推理,對重視私隱的本港用家尤其重要。若蘋果成功整合相關技術,未來 iPhone 有望在離線狀態下處理更複雜的文書摘要、翻譯與對話任務,而不必等待伺服器回應。值得留意的是,市場另傳蘋果曾秘密收購 AI 新創 Q.ai,交易金額約 20 億美元,顯示蘋果正以併購與技術授權雙管齊下的方式,急起直追裝置端 AI 能力。
目前蘋果與 PrismML 僅處於接觸評估階段,雙方尚未公布任何合作計畫。PrismML 的開源模型預計 7 月 14 日發布,屆時可一窺其壓縮技術的實際表現,而蘋果何時將相關能力整合至 iPhone,仍有待後續觀察。



