高通技术公司工程技术高级副总裁侯纪磊近日与媒体深入交流,分享了高通在AI领域的前沿探索,涵盖2bit量化技术突破、高带宽计算(HBC)架构创新以及端云协同智能体实现路径等核心议题。作为高通AI工程技术团队负责人,侯纪磊强调研发与产品必须形成双向驱动的"飞轮效应",通过技术迭代与场景落地的闭环,构建具有生命力的AI生态体系。
在设备端模型优化领域,高通率先突破2bit量化感知训练技术瓶颈。传统模型训练多采用32bit或16bit精度,而高通研发的2bit量化方案通过实际用例数据匹配,成功将精度损失控制在可接受范围。侯纪磊透露,该方案在ARC-AGI-3等复杂基准测试中已接近全精度模型表现,目前正与多家中国厂商合作推进技术落地。他特别指出,谷歌Gemma 4系列模型采用的2bit QAT技术验证了数据优化的重要性,未来端侧设备的数据处理能力将成为技术普及的关键因素。
针对AI推理的算力瓶颈,高通推出的HBC技术通过架构创新实现突破。该技术采用3D堆叠的近存计算架构,将数字逻辑芯片与计算单元直接集成在内存模块底层。相比传统方案,HBC架构使有效内存带宽提升数十倍:第一代技术使AI250加速器带宽较AI200提升18倍,第二代技术更将AI300的带宽提升至54倍。这种设计既避免了片上SRAM方案的高成本问题,又克服了HBM方案的功耗瓶颈,在每瓦特带宽和每瓦特容量指标上分别达到HBM的6倍和SRAM的200倍。
在端云协同战略方面,高通正将端侧技术优势向云端延伸。侯纪磊表示,端侧与云侧在模型效率优化上具有共性,低比特量化、稀疏注意力等端侧创新技术经过适配后可用于云端推理。高通通过与头部模型厂商深度合作,已形成可复制的技术优化方案,这种"先深度适配再规模推广"的模式显著降低了OEM厂商的适配成本。数据显示,当前30B参数模型已能覆盖70%-80%的日常任务,复杂计算需求则通过云端协同满足。
对于AI推理市场的竞争格局,侯纪磊认为系统能力将成为关键分水岭。他指出,单纯硬件性能比拼已转向平台、生态、落地的综合竞争,这需要芯片厂商、模型开发者、终端设备商形成紧密协作。高通通过构建覆盖端侧与云端的推理平台,正在为各类AI入口提供底层支撑,其技术路线已获得多家存储器厂商认可,产业协同效应正在显现。
在隐私保护领域,高通提出构建智能体操作系统的"握手机制"。该方案通过清晰的接口定义和责任划分,在端侧建立私密处理环境,确保用户隐私数据在交互过程中得到保护。这种设计既满足了智能体编排的复杂需求,又符合数据安全合规要求,为AI技术的规模化应用提供了基础设施保障。








