移动设备运行大型AI模型正迎来突破性进展。美国初创企业PrismML近日宣布,其研发的模型压缩技术已成功将阿里巴巴开源的Qwen 3.6大语言模型(270亿参数版本)适配至iPhone 17 Pro,使智能手机首次具备运行超百亿参数模型的能力。该技术通过数学算法将模型体积从54GB压缩至不足4GB,同时保持完整功能,包括复杂对话、逻辑推理、自主任务执行及代码生成等。
这项突破直指当前移动AI发展的核心矛盾——硬件性能限制。传统观点认为,受限于处理器算力与显存容量,移动设备仅能运行数十亿参数的轻量级模型。PrismML团队通过优化算法结构,在保证模型全部270亿参数同步活跃的前提下实现压缩,打破了"参数规模与设备性能不可兼得"的行业认知。相比之下,苹果近期推出的本地AI模型虽宣称拥有200亿参数,但实际运行时仅有10-40亿参数处于活跃状态。
技术源头可追溯至加州理工学院的实验室。由电气工程教授哈西比领衔的科研团队完成了底层数学研究,相关专利已独家授权给其创办的PrismML。这种产学研结合的模式,使得该技术从理论到商用仅用时两年。据知情人士透露,苹果公司已与PrismML展开技术合作洽谈,探索将该方案整合进自身AI战略的可能性。
移动端AI的落地正在重塑产业格局。PrismML首席执行官哈西比指出,当95%的智能服务可在本地设备完成时,人工智能的商业模式将发生根本性转变。用户数据无需上传云端,既提升了响应速度,又增强了隐私保护。这种技术路径与苹果长期坚持的"端侧AI"战略高度契合——后者在数据中心建设竞赛中始终保持谨慎,转而将资源投入设备本地化运算的研发。
当前行业仍面临现实挑战。苹果在6月开发者大会上展示的Siri升级版,其核心复杂功能仍需依赖谷歌云的英伟达芯片提供算力支持。此前内部尝试的模型压缩方案,也因性能大幅衰减而搁置。PrismML的技术突破为解决这类难题提供了新思路,其压缩方案已通过第三方测试验证,在保持准确率的同时,推理速度较云端方案提升3倍以上。
这家初创企业的野心不止于消费电子领域。哈西比透露,团队正在攻关万亿参数模型的压缩技术,目标是将GPT-4、Claude等前沿模型适配至移动终端。若该计划实现,意味着个人设备将具备与专业AI服务器相媲美的计算能力,可能引发人工智能应用场景的革命性变化。下周二,Qwen 3.6压缩版将正式开放下载,开发者可测试其在不同硬件环境下的实际表现。











