vLLM 用在线校准扩大自适应验证：预测的是接受率

vLLM 10月14日的说明文章，把自适应验证扩展到没有置信头的草稿模型。在线逻辑回归从草稿分布的最大概率估计目标模型接受率，随实际接受/拒绝结果更新，再按预计收益与实测计算成本裁剪验证预算。PR在9月已合并，并非当天才落地。实验显示并发与草稿长度会改变收益；方法仍要求注意力后端支持变长验证。

可信度 65 · 重要性 76 · 新颖度 66

技术与主题

这里的“验证”容易和Agent答案检查混淆。目标模型接受一个草稿token，只说明它符合投机解码的采样过程，不说明事实或业务决策正确。它解决的是把计算花在哪些草稿上，不能给生成内容多加一层真实性保证。

这篇文章有价值的一点是没有只挑最好的分类指标。作者讨论过对实际抽样token概率打分的特征：它们区分能力更好，却可能在裁剪时引入分布偏差，因而没有采用。这说明服务优化的首要约束应先写清楚；如果要求保持目标分布，一个更漂亮的AUC也不足以批准改动。

收益比较则要同时扫固定草稿长度和并发。只拿较长固定设置作基线，可能把一部分调参收益算给新机制。小批量、逐token生成开销较大的草稿器未必合算。已有服务团队可先复用自己的请求分布测吞吐与用户侧速度，再决定是否打开这项配置；本文不提供脱离条件的统一提速倍数。