Amanda Martin;实验 Lat Ware · Vapi · 阅读原文

原始来源:Amanda Martin;实验 Lat Ware · Vapi

发现渠道:AIHOT · 精选线索

Vapi 的 Pedantic Review Bot 可运行测试与小复现,分析和发评论分属两个 job;分析会话去掉 Git 凭据,发帖端只能评论。团队自报 PR 从打开到合并的平均时间由 130 多小时降至 65 小时。更有启发的是单 PR 实验:101 个提示版本产生的发现交给 AI 裁判,改重误报代价后,胜出提示发生变化;另一个已知 lint 阻断缺陷仅被 194 次代码审查中的 8 次找到。

可信度 65 · 重要性 81 · 新颖度 74

技术与主题

Agent 系统 · AI 编程 · 评测与基准 · Code Review · Executable Verification · False Positives

Lat Ware

观点原文

Vapi 工程师的实践自报;文章由 Amanda Martin 撰写,以下转述实验判断。

忠实转述(非原句):他重新加重误报成本,因为每个额外问题无论真假都要工程师检查。他还区分 PR 新引入的问题与父版本已有的问题:两者都可能值得修,但对是否合并的影响不同。

编辑评读

这个案例的优点是把“指出问题”进一步变成“提供能检查的证据”。测试、调用链和最小复现让人可以判断发现是否成立;只允许评论又让提出意见与修改代码分开。对原本需要等几天的队列,花二十分钟查一个 PR 可能很划算,但这种延迟预算不适合所有团队。

101 次提示试验的实验单位仍是一个 PR。重复运行能测提示和采样的变化,不能替代更多种缺陷与仓库;AI 裁判的判断也不能当作独立人工真值。已知阻断缺陷被大量运行漏过,更直接说明“发现的总分”与“找出不可合并的问题”不是一个目标。

130 多小时到 65 小时是一家团队的前后自报,不能把全部变化归因于机器人。它仍提供了值得验证的设计:把阻断缺陷召回、误报需要人处理的时间和最终返工同时记录。只追求评论更多,会把机器人显得更勤奋,却让审阅者更忙。

核查依据

所属事件

收录记录

由这条线索延伸:让审查机器人交证据,而不只是交意见