PrismML 與蘋果正接觸評估模型壓縮技術,目標讓大型語言模型無需仰賴雲端伺服器,直接在 iPhone 裝置端運行。

據《The Information》報導,蘋果近期已與 PrismML 展開接觸,評估把其模型壓縮技術應用於未來產品,以強化裝置端的人工智慧功能。
PrismML 表示,已將阿里巴巴開源的大型語言模型 Qwen 3.6 最佳化,能在 iPhone 17 Pro 上運行,該模型具備約 270 億個參數。PrismML 還稱,這套模型具有軟體開發能力,並預計於 7 月 14 日 以開源形式發布。


PrismML 模型壓縮可讓大模型在 iPhone 執行
PrismML 的核心技術是把原本需倚賴雲端運算的大型語言模型壓縮到能在行動裝置上推理,從而縮短回應時間並節省運算成本。
對蘋果而言,若能把更大模型搬上裝置端,Apple Intelligence 在回應速度、隱私保護與運算成本三方面的短板,有機會被改善。
裝置端運行的優勢與挑戰
裝置端推理的主要吸引力,在於用戶資料無需上傳雲端即可完成處理,對重視隱私的使用者尤為重要。
若蘋果整合相關技術,未來 iPhone 有望在離線狀態下處理較複雜的文書摘要、翻譯與對話任務,不必全部仰賴伺服器回應。
市場傳聞與蘋果的雙管策略
市場另有傳聞稱,蘋果過去曾透過併購迅速補強 AI 能力,傳聞中包括秘密收購 AI 新創 Q.ai。相關傳聞指出交易金額約 20 億美元,折合約 新台幣642億5,420萬元(原價20億美元),但蘋果官方尚未證實。
整體觀察可見,蘋果正以併購與技術授權並行的方式,加速追趕裝置端 AI 的進展,而 PrismML 的壓縮方案若成熟,將成為重要選項之一。
目前蘋果與 PrismML 僅處於接觸與評估階段,雙方尚未公布任何合作計畫;PrismML 的開源模型若如期在 7 月 14 日發布,屆時能更清楚呈現其壓縮技術與實際效能,是否納入蘋果產品仍待觀察。
(責任編輯:整理報導)

