最近忙着大规模招兵买马的 DeepSeek,也始终没有忘记开源这条主线。
今天,DeepSeek 与北京大学团队联合发布论文《DSpark: Confidence-Scheduled Speculative Decoding with Semi-Autoregressive Generation》,提出了一套新的大模型推理加速框架 DSpark。
技术报告
最近忙着大规模招兵买马的 DeepSeek,也始终没有忘记开源这条主线。
今天,DeepSeek 与北京大学团队联合发布论文《DSpark: Confidence-Scheduled Speculative Decoding with Semi-Autoregressive Generation》,提出了一套新的大模型推理加速框架 DSpark。
技术报告