在人工智能技术迅猛发展的当下,大模型参数规模正以前所未有的速度扩张,从千亿级向万亿级迈进,甚至有企业开始探索10万亿参数的超级模型。然而,参数规模的膨胀也带来了算力成本攀升、数据隐私保护难度增加以及响应时延延长等一系列挑战。面对这些行业痛点,高通公司提出了“混合AI”的发展理念,主张通过端侧与云侧的协同计算来破解难题,这一观点引发了业界广泛关注。
高通公司工程技术高级副总裁侯纪磊博士在接受采访时表示,无论是大模型、生成式AI还是智能体AI,端云协同都应成为核心发展方向。他指出,简单且涉及隐私数据的任务更适合在端侧完成,而复杂、需要长步骤推理的任务则更适合交由云端处理。这种分工模式不仅能够实现成本、隐私和时延的优化,还能为用户提供无缝衔接的体验。侯纪磊以“智能密度”概念解释了端侧模型能力的快速提升:以100亿参数的小模型为例,其能力水平在三年间提升了15至20倍,预计每12个月将有2至4倍的增长。他认为,1000亿参数或以下的模型已能满足70%至80%的日常任务需求,剩余复杂任务可由云端补充。
端侧模型能力的提升离不开底层芯片算力的支持。侯纪磊透露,高通在端侧训练方面已取得突破,去年发布的第五代骁龙8至尊版已支持端侧学习功能。这种训练并非从头开始,而是通过微调模型以更好地适应用户偏好。他强调,端侧学习的优势在于数据无需上传云端,既能保护隐私,又能实现个性化服务。
在混合AI的框架下,高通正同步推进端侧和云端的研发。侯纪磊指出,端侧和云侧的核心共同点在于模型效率,即如何在单位能量范围内优化计算。高通在端侧积累的低比特量化、多词元生成等技术,可迁移至云侧应用。今年6月,高通宣布进军数据中心领域,其差异化策略是高带宽计算技术(HBC)。该技术针对大语言模型处理的解码阶段,采用低成本DDR内存替代高价格HBM,通过3D堆叠近存计算架构减少电路板面积,在带宽受限场景下实现更高性价比。侯纪磊透露,高通已与海内外主流客户及大型存储器厂商达成合作,相关方案有望在大模型处理场景中创造实际价值。
在产品布局方面,高通已发布飞龙AI100至AI300多代加速器,并完成对Modular的收购以整合软件能力。公司还计划推出更灵活的设备形态,支持家庭和小企业环境运行万亿级模型。然而,侯纪磊明确表示,高通不会涉足基础大模型研发,而是将自身定位为底层计算解决方案平台,专注于为大语言模型提供服务。他解释称,从商业角度出发,高通与模型厂商的合作模式更具优势:双方客户重合度高,通过深度适配和优化形成成熟方案后,可快速推广至更多客户。目前,高通已与两家重要模型厂商推进此类合作。
中国研发团队在高通的AI战略中扮演着关键角色。侯纪磊指出,中国团队对市场需求和应用场景的理解尤为深入,能够为工程问题提供研发层面的解决方案。以2比特量化技术为例,高通通过与中国厂商合作,将实用数据与实际用例匹配,推动了技术落地。他强调,AI研发与产品必须形成强耦合的“飞轮”效应:研发需主动思考技术如何落地产品,产品应用中遇到的问题也需及时反馈至研发体系解决。这种双向驱动机制是保持体系生命力的关键,尤其在AI领域,创新落地的速度可能比创新本身更重要。









