据科技媒体The Information报道，苹果公司正接洽AI初创公司PrismML，评估在iPhone上直接运行更大规模AI模型的可行性。这一动作意味着苹果可能在端侧AI能力上迎来重大突破，让手机跑起原本需要云端算力支撑的大型语言模型。
PrismML是加州理工学院衍生出来的AI初创公司，核心突破为原生1-bit模型压缩技术。该技术可将模型体积压缩至全精度版本的约十四分之一，内存占用降低超90%。传统量化方案通常只是降低精度但仍保留多比特权重，而PrismML的权重仅用负 1 和正 1 两个值表示，配合分组缩放因子完成计算，从架构层面彻底重构了模型的存储与推理方式。
没有"高精度逃生通道"，却接近原版精度
PrismML宣称其技术没有传统量化方案中常见的"高精度逃生通道"——即部分关键层仍保留高精度以弥补性能损失的折中做法。在完全采用1-bit权重的前提下，该技术仍能保持接近FP16 模型的精度水平。同时，推理速度最高提升 8 倍，能耗降低75%至80%，这意味着在不牺牲模型质量的情况下，手机端运行大型AI模型所需的算力和电量门槛被大幅拉低。
27B参数Qwen 3. 6 已在iPhone 17 Pro上完整跑通
最关键的实战证据已经出炉。PrismML将阿里巴巴开源的27B参数大型语言模型Qwen 3. 6 进行压缩后，成功在iPhone 17 Pro上完整运行。27B参数规模的模型在传统方案下几乎不可能在手机端流畅运行，而经过PrismML的1-bit压缩后，不仅成功跑通，还保持了接近原版的推理质量。苹果正是看中了这一量化能力，希望借此进一步增强本地AI模型的推理性能。
对苹果而言，端侧AI能力的强弱直接关系到Apple Intelligence生态的竞争力。目前iPhone上的AI模型规模和功能仍受限于内存与功耗，如果PrismML的压缩技术能够落地，iPhone有望在不增加硬件成本的前提下运行更大规模的模型，实现更复杂的多轮对话、图像理解和智能体任务编排。当手机端也能跑起旗舰级大模型，端侧AI与云端AI的实力天平或许将迎来重新校准。
