当行业还在聚焦大模型“智力竞赛”时,DeepSeek另辟蹊径,将研发重心转向提升模型推理效率。近日,该团队联合北京大学在GitHub发布最新研究论文,公开了其自研的推理加速框架DSpark,并同步开源模型权重与训练代码,试图破解大语言模型在高并发场景下的性能瓶颈。
论文核心聚焦于自回归生成机制的固有缺陷——每个新词元的生成均需依赖完整前向传播,导致输出越长、延迟越高。这种特性直接引发两大问题:GPU资源利用率低迷,以及用户等待时间呈指数级增长。尤其在实时对话、多轮智能体协作等对延迟敏感的场景中,该问题已成为制约模型落地的关键障碍。
研究团队指出,现有解决方案存在明显短板:自回归草稿模型(如Eagle3)虽能保证生成质量,但系统吞吐量受限;并行草稿模型(如DFlash)虽提升效率,却牺牲了部分输出准确性。更关键的是,两类方案均缺乏动态负载调节能力,难以适应复杂多变的实际需求。
DSpark框架创新性采用半自回归架构,通过融合并行主干与轻量级串行模块,在保持高吞吐优势的同时,逐词元注入前缀依赖信息。该模块提供两种实现路径:马尔可夫头仅依赖前一词元,实现极低计算开销;RNN头则通过循环状态累积完整上下文,平衡效率与准确性。实验数据显示,两层Transformer结构的DSpark在所有测试领域中,均超越五层DFlash的接受长度。
实际部署效果印证了技术突破的价值。在DeepSeek-V4在线服务系统中,DSpark在相同吞吐量条件下,将用户端生成速度提升60%-85%。当该框架应用于阿里Qwen3系列模型时,4B、8B、14B版本的单轮可接受词元长度,较自回归草稿模型分别提升30.9%、26.7%、30%,较并行草稿模型提升16.3%-18.4%。
值得关注的是,DeepSeek创始人梁文锋直接参与论文研究,这从侧面反映出企业对技术落地的重视程度。通过开源模型权重与训练代码,研究团队不仅为学术界提供研究基准,更为工业界部署高效推理系统开辟新路径。这项突破或将重新定义大模型的应用边界——在追求智能上限的同时,通过工程优化释放底层算力潜能。











