根據《The Information》報導,蘋果(Apple)近期已與 AI 新創 PrismML 展開接觸,評估將其模型壓縮技術應用於未來產品線。

PrismML 已成功將阿里巴巴開源大型語言模型 Qwen 3.6(270 億參數)最佳化,使其可在 iPhone 17 Pro 上本地執行——無需連線雲端伺服器。

重點

  • 目前多數手機端 AI 模型一次只能啟用數十億參數,Qwen 3.6 的 270 億參數代表規模的重大突破
  • 模型壓縮是讓「雲端級 LLM」下放到消費設備的關鍵技術,PrismML 的技術正是解決此瓶頸
  • 若蘋果整合此技術,Apple Intelligence 的推理能力將大幅提升,且可完全離線運作,強化隱私保護

編輯按

蘋果在 On-device AI(裝置端推理)上一向謹慎,目前 Apple Intelligence 大多仰賴 Private Cloud Compute 進行雲端推理。若 PrismML 的技術落地,未來 iPhone 可在本機處理過去只有伺服器才能跑的模型規模,代表使用者的提示詞不需離開設備,隱私保護水準將全面提升。此舉也可能影響邊緣 AI 的競爭態勢,加速其他手機廠商跟進。

本文由 AI 整理,原文:TechNews 科技新報