AI 技术知识库

Home

❯

具体技术

❯

Speculative Decoding

Speculative Decoding

2026年11月04日1分钟阅读

  • 推测解码为什么多算了一些,反而更快?
  • vLLM 用在线校准扩大自适应验证:预测的是接受率
  • Kimi K3 的 AMD 推理优化:缓存要能在同一位置恢复
  • Agens Volundr v1:优先修循环和续接,低显存运行仍有代价
  • DeepInfer 开放推理核心,完整服务仍有三块拼图
  • Mistral Large 4 开放权重:稀疏计算之外,还要看缓存怎么放
  • 推理快了、总分近似不变,就能说质量不变吗?

关系图谱

反向链接

  • 推测解码为什么多算了一些,反而更快?
  • vLLM 用在线校准扩大自适应验证:预测的是接受率
  • DeepInfer 开放推理核心,完整服务仍有三块拼图
  • Agens Volundr v1:优先修循环和续接,低显存运行仍有代价
  • 推理快了、总分近似不变,就能说质量不变吗?
  • Kimi K3 的 AMD 推理优化:缓存要能在同一位置恢复
  • Mistral Large 4 开放权重:稀疏计算之外,还要看缓存怎么放
  • 具体技术

Created with Quartz v4.5.2 © 2026

  • 日报日历
  • 最新日报