发生了什么
DeepSeek 开源 DSpark(投机解码框架)
为什么值得关注
本文详细披露了 DSpark 的两项核心技术(Markov head 与置信度调度)及真实生产环境提速数据,值得阅读原文以获取可复现的优化细节。
信息来源
以下内容来自公开来源,可打开原文继续核验。
DeepSeek 开源投机解码框架 DSpark
DeepSeek 开源 DSpark 投机解码框架,通过并行 backbone 加顺序 Markov head 解决后缀衰减,并引入置信度调度实现负载感知验证。在 DeepSeek-V4 生产环境中,单用户生成速度比 MTP-1 基线快 60-85%,吞吐提升 1.5x 到 5x,且不影响输出质量。开源内容包括模型 checkpoint 和训练代码(MIT 协议),与北京大学联合开发。
打开原始来源 ↗DeepSeek 发布 DSpark 推理优化方法
DeepSeek 发布 DSpark,一种半并行推测解码系统,在 DeepSeek-V4 上实现每用户生成速度提升 60%-85%。核心创新是选择性验证草稿 token,使用并行草稿模型和马尔可夫头调整,并引入置信度调度根据接受概率和 GPU 负载决定验证数量。
打开原始来源 ↗