字节跳动旗下的Seed团队近日揭晓了一项名为Seed Diffusion Preview的实验性技术成果,该技术聚焦于以代码生成为试验田,旨在通过离散扩散技术路径,探索其作为未来语言模型核心架构的潜力。
据悉,Seed Diffusion Preview在代码推理方面展现出了惊人的速度,每秒可处理2146个tokens,这一表现相较于同等规模的自回归模型,速度提升了5.4倍。在多个行业基准测试中,该模型与顶尖的自回归模型性能相当,甚至在代码编辑等特定任务上实现了超越。
Seed团队强调,Seed Diffusion Preview不仅在采样效率上有所突破,还在多个代码生成基准测试中,展现出了与同等规模自回归模型比肩的性能。特别是在代码编辑这类需要全局视角规划的任务中,该模型凭借扩散模型框架的固有优势,性能超越了基于自回归的模型,为解决更为复杂的结构化推理问题开辟了新的道路。