ITBear旗下自媒体矩阵:

苹果携手PrismML突破AI瓶颈:1-bit压缩让27B大模型在iPhone流畅运行

   时间:2026-07-10 10:50:47 来源:互联网编辑:快讯 IP:北京 发表评论无障碍通道
 

科技领域近日传来新动向,苹果公司正与一家名为PrismML的人工智能初创企业展开接触,重点评估在iPhone设备上直接部署更大规模AI模型的可行性。若这一合作取得实质性进展,苹果端侧AI处理能力或将实现跨越式提升,使手机端具备运行传统依赖云端算力的大型语言模型的能力。

PrismML的独特技术优势源于其自主研发的原生1-bit模型压缩架构。这项源自加州理工学院的技术突破,通过将模型权重简化为正负1的二进制表示,配合分组缩放因子进行计算,实现了模型体积压缩至全精度版本的约1/14,内存占用减少超90%的惊人效果。与传统量化方案保留多比特权重的做法不同,该技术从底层架构重构了模型存储与推理机制,彻底摒弃了"关键层保留高精度"的折中方案。

在性能表现上,这项技术展现出显著优势。PrismML宣称其压缩模型在完全采用1-bit权重的情况下,仍能保持接近FP16模型的精度水平。实测数据显示,推理速度最高提升8倍,能耗降低75%-80%。这意味着在保持模型质量的前提下,移动设备运行大型AI模型的算力需求和电量消耗将大幅降低,为端侧AI应用扫清了关键障碍。

实际应用场景已取得突破性进展。PrismML团队将阿里巴巴开源的270亿参数规模Qwen 3.6模型进行压缩处理后,成功在iPhone 17 Pro设备上实现完整运行。值得注意的是,该规模模型在传统技术框架下几乎无法在手机端流畅运行,而经过1-bit压缩后的版本不仅运行流畅,更保持了接近原始模型的推理质量。这一成果直接促使苹果加速推进相关技术合作。

对于苹果而言,端侧AI性能的突破具有战略意义。当前iPhone的AI功能受限于设备内存与功耗,模型规模和复杂度难以进一步提升。若PrismML的压缩技术得以应用,iPhone将可能在现有硬件基础上运行更大规模的本地模型,支持更复杂的多轮对话交互、图像理解分析以及智能任务编排等功能。这种技术演进或将改变端侧AI与云端AI的力量对比,重新定义移动设备的智能边界。

 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  争议稿件处理  |  English Version