(最后更新: 2026-07-13T00:35:00+08:00) AI 基础设施

DeepSeek DSpark:模型不变,为什么生成速度还能提高 60% 到 85%

DSpark 用半自回归草稿与置信度调度改进推测解码,在 DeepSeek-V4 线上系统中实现更快生成。本文解释它为什么有效、数字应该怎样理解,以及速度优化对普通团队意味着什么。

#DeepSeek#DSpark#推测解码#大模型推理#AI 成本#AI 基础设施

查找相关文章

输入工具名、术语或排障信息,直接找到站内相关内容。

快速摘要

核心结论

DSpark 的价值不是让基础模型突然变聪明,而是在不改目标模型答案规则的前提下,减少无效验证,让同一套服务更快地产生可接受 token。

适合谁读

适合关注 DeepSeek、私有化大模型、AI 应用延迟、推理成本和高并发服务的开发者、产品负责人及企业技术团队。

关键判断

DSpark 论文报告:在 DeepSeek-V4 真实线上流量中,相对生产基线 MTP-1,在匹配吞吐水平下,每用户生成速度提高 60% 到 85%。

下一步

评估模型服务时,不要只看单次回答速度;同时记录并发量、吞吐、首 token 延迟、持续生成速度和答案质量。

你将学到

  • + 推测解码为什么能加速大模型生成
  • + DSpark 解决了哪些验证浪费
  • + 60% 到 85% 的加速数字应该怎样理解
  • + 团队评估 AI 推理服务时应记录哪些指标

很多人以为,大模型想变快,只能换更小的模型,或者堆更多、更贵的显卡。

但事实不是这么简单。

如果模型生成一句话时,每个字都要走一遍完整流程,那么再强的硬件也会被大量重复等待拖住。DSpark 解决的,就是怎样在不更换目标模型的情况下,把这段等待压缩掉。

DeepSeek 团队在 2026 年 7 月公布了 DSpark。论文报告称,它部署在 DeepSeek-V4 的真实线上流量中,相比既有生产基线 MTP-1,在匹配吞吐水平下,将每用户生成速度提高了 60% 到 85%。

这个数字很亮眼,但真正值得理解的,不是“DeepSeek 又快了多少”,而是大模型竞争正在从模型训练延伸到推理系统。

大模型为什么经常一个 token 一个 token 地等

常规自回归生成像接龙。

模型先生成第一个 token,再拿着前面的结果生成第二个,然后继续生成第三个。每一步都依赖上一步,所以很难把整段答案一次算完。

推测解码提供了另一种思路:

  1. 先让一个更轻的草稿模块猜出一小段候选 token;
  2. 再让目标模型一次验证这批候选;
  3. 接受正确的前缀,从第一个不合适的位置继续生成。

它有点像会议记录员先根据上下文写出下一句话,再由发言人快速确认。猜得准,就能一次通过多个词;猜错了,再从错误位置重来。

关键在于,草稿不是越长越好。

旧方法的问题:后半段越猜越容易错

一些并行草稿方法可以一次提出较长的 token 块,但块内 token 之间缺少足够依赖。开头可能猜得不错,越到后面,错误越容易累积。

目标模型仍要花计算去验证这些高风险 token。如果大部分后缀最终被拒绝,验证不但没有节省时间,还会占用批处理容量。

在高并发服务里,这个问题尤其明显。

单个请求多验证一点,看起来没有多大影响;成千上万个请求同时发生时,无效验证会挤占真正能够产生结果的计算。

DSpark 做了两件事

第一件:让草稿 token 之间真正互相参考

DSpark 使用半自回归结构,把并行骨干与轻量顺序模块结合起来。

并行部分负责一次产生多个候选,顺序部分补充 token 之间的依赖。这样做不是回到完全逐 token 生成,而是在并行速度和草稿连贯性之间找平衡。

论文把它解决的问题称为后缀接受率衰减:候选块越往后,并不必然像过去那样快速失真。

第二件:不是每个请求都验证同样长

DSpark 会估计候选前缀继续存活的概率,再结合当前推理引擎的吞吐特征,动态决定这次值得验证多长。

置信度高,就多验证几个 token;置信度低,就及时截断。

这很像排队安检。不是每个包裹都拆到最底层,也不是所有包裹都直接放行,而是根据风险和当前处理能力决定检查深度。

60% 到 85% 应该怎样理解

论文给出的结果有三个重要限定词:

  • 运行在 DeepSeek-V4 服务系统;
  • 使用真实线上用户流量;
  • 在匹配吞吐水平下,与生产基线 MTP-1 比较。

因此,它不是“任何模型装上 DSpark 都必然快 85%”。不同模型结构、硬件、并发量、采样参数和服务引擎,都会改变收益。

但真实生产流量仍然很有价值。它说明 DSpark 不只是离线实验室里的单请求跑分,而是试图解决多人同时使用时的验证浪费。

对普通团队意味着什么

模型体验不只由模型决定

同一个基础模型,在不同推理引擎、量化方案、缓存策略和并发调度下,速度与成本可能差很多。

团队选供应商或做私有化部署时,不能只问“底层是什么模型”,还要问:持续生成速度是多少,并发增加后会不会明显变慢,峰值时延如何,单位请求成本怎样。

更快不等于更便宜同样多

生成速度提升 60%,不意味着账单自动下降 60%。

如果系统把节省的容量用于服务更多请求,总吞吐可能上升;如果硬件利用率、内存或网络成为新瓶颈,成本变化又会不同。

速度是用户体验指标,吞吐是系统能力指标,成本是商业指标。三者相关,但不是同一个数字。

评测必须带上真实并发

只用一个请求测速度,很容易得到过于乐观的结果。

更可靠的评测至少要记录:

  • 首 token 延迟;
  • 持续生成速度;
  • 不同并发下的吞吐;
  • P50、P95 和 P99 延迟;
  • 输出质量与拒绝率;
  • 单位请求或单位 token 成本。

如果业务有长文本、代码生成或复杂推理,还要单独测试长输出场景。

今天的结论

模型能力决定它能不能完成任务,推理系统决定用户要等多久、平台能服务多少人,以及每次调用要付出多少成本。

DSpark 的意义不是让 DeepSeek-V4 突然学会新知识,而是减少目标模型验证那些大概率不会被接受的候选 token。

过去大家只盯着参数规模和榜单。

接下来,真正影响 AI 产品体验的竞争,会越来越多发生在看不见的地方:草稿、验证、缓存、调度、并发和硬件利用率。

模型没有变,系统却可以让它跑得更聪明。

参考来源

继续阅读

要点总结

  • - 推测解码通过小型草稿模块先提出多个 token,再由目标模型并行验证,以减少逐 token 等待。
  • - 草稿越长不一定越快;如果后半段大量被拒绝,验证计算和批处理容量会被浪费。
  • - DSpark 用半自回归结构改善草稿 token 之间的依赖,并按置信度动态决定验证长度。
  • - 60% 到 85% 是 DeepSeek-V4 特定生产条件下、匹配吞吐水平的结果,不应外推为所有模型和硬件都能获得同样增益。
  • - 对用户而言,推理系统优化可能比频繁更换模型更直接地改善等待时间、并发能力和单位服务成本。

常见问题

DSpark 会不会降低模型回答准确性?

推测解码的目标是让目标模型验证并接受草稿 token,而不是直接用草稿模型替代目标模型。论文比较的是匹配目标模型输出规则下的推理加速,但真实部署仍需验证实现、采样配置与质量指标。

普通用户能直接安装 DSpark 吗?

它首先是一套面向模型服务系统的推理解码方案,不是普通聊天软件插件。它更适合模型提供方、私有化部署团队和高并发推理平台评估。

生成速度提高 60% 到 85%,成本也会下降同样比例吗?

不能直接画等号。速度、吞吐和成本还受硬件利用率、并发、批处理、内存、网络与定价方式影响,需要用自己的服务账单和压测结果验证。

评论