多轮编程 Agent 会重复发送很长的历史，服务端能否复用这些计算，往往比纸面矩阵算力更影响吞吐。Kimi K3 同时有保存压缩历史的 MLA 注意力，以及携带固定大小递归状态的 KDA 层；恢复请求时，两种状态必须停在兼容的位置。文章举例：MLA 已缓存到3072个 token，KDA 检查点却只到2048，仍要从2048继续重算，而非直接接上最后一段。
团队在 vLLM 推理服务框架的 AMD 路径上分散跨卡历史缓存，复用已有通信来去掉重复专家计算，融合内核并删除没有消费者的拷贝。它还把较短的投机验证任务切成更多小工作组，让 GPU 能同时执行足够多的工作。投机解码是先草拟若干 token 再由主模型检查；草稿更长只有在整个循环的时间增幅较小时才划算。
博客采用10月9日的 AgentX 快照：两套八卡完整服务栈在90分位 token 间延迟折算为每用户50 token/s的条件下，MI355X 每卡总吞吐约7567，B300约6083，高24.4%。总 token 包含复用输入，速度口径不含首 token 等待；每美元优势另依赖所有权成本模型。这不是所有真实任务的输出速度或费用比例。