Peter Hess · IBM Research · 阅读原文
原始来源：Peter Hess · IBM Research
IBM用一个协调者和四个工作者优化Relay-BP量子纠错解码器，每种配置搜索100个假设，并用正确性检查与高层综合反馈排序。开放模型方案报告推理费约26美元、HLS延迟估计相对基线加速52倍；专有方案为299美元、204倍。11.5倍费用差异并非同质量结果的价格比。开放方案生成约2.41亿token，反而多于专有方案的2.16亿；低费用同时来自本地模型与llm-d服务。每配置只搜索一次，费用只计各角色模型推理，未计综合工具、完整验证和人工。
可信度 65 · 重要性 77 · 新颖度 78
技术与主题
Agent 系统 · 系统与效率 · 评测与基准 · Multi-Agent Search · High-Level Synthesis · Prefix Caching
编辑评读
这份比较最值得读的，是价格和结果同时保留。开放配置拿到较紧凑设计，专有配置则在延迟上走得更远；不同约束下，团队可能会选不同方案。只把11.5倍写进标题，会删掉实际的工程取舍。
服务系统按缓存位置路由，并拆分prefill与decode。现有运行把这些机制与模型配置一起改变，不能直接识别某一项的贡献。若任务需要更高质量，便宜模型多试几次是否划算，也要实测搜索收益曲线；把假设翻倍之后的收益并没有翻倍。
速度来自HLS估计，不能称为做出并测量了52倍更快的实体芯片。官方博客描述了新论文，但这次未取得具体论文链接、模型版本和完整运行数据（原图只标出Opus/GLM家族）。适合把它当作一个有条件的工程线索，继续追索可复查的设计与账单。
需要留意
- HLS估计，单次搜索
- 图表标出Opus/GLM家族，未取得完整论文和具体版本；成本只计模型推理。