Robert Kim、Din / Laminar · 阅读原文

原始来源:Robert Kim、Din / Laminar

发现渠道:Hacker News

Agent 的一次运行会留下“轨迹”:按顺序记录模型收到什么、调用了哪些工具、工具返回什么以及最后如何回答。隐性错误往往藏在这些步骤之间,接口没有报错,Agent 也说完成了,但交付物遗漏要求或解释与日志不符。Laminar 的 Signals 就是读取轨迹、调查这类问题的检查程序;flow-1 是在其中工作的专门模型,原始发布于 10 月 1 日,本次讨论线索来自 10 月 19 日的 Hacker News。

Signals 把一条轨迹当作代码仓库,把每段模型或工具调用记录当作可读取的文件。模型先看整条轨迹的概览和用户的检查要求,例如查找逻辑错误;再用搜索定位相关片段,打开完整记录补齐上下文,判断证据是否支持某个问题,最后按用户规定的结构输出 JSON。训练也使用这套搜索和读取工具,让模型学习的不只是给结论,还包括去哪里找依据。Signals 还可以按指定要求提取用户不满、交接原因等信息,并不限于报错。

原文的一份合同案例说明了它为什么需要跨步骤核对:双方约定把影片可用窗口改为 105 天,Agent 在问题清单里标记已解决,合同附表却仍写 90 天。flow-1 不只指出合同遗漏,还把它与清单中的错误完成状态联系起来。另一个代码案例里,Agent 把多项测试失败都归为已有问题,检查器发现日志只能支持其中一项的归因。原文也公开了漏检:flow-1 放过了一份缺少必需 AI 治理条款的合同修订。

厂商在 523 条涉及编程、法律、客服、CRM 等场景的困难轨迹上,用同一 Signals 程序替换不同模型比较。检测 F1 为 0.835,衡量发现错误时误报与漏报之间的平衡;它综合精确率和召回率,不是“83.5% 的任务做对了”。描述 F1 为 0.741,另看对问题的描述是否正确对应所要识别的错误,不能与有没有发现错误混为一项。文章没有展开描述匹配的完整评分细则,因此不把这个分数解释成某种具体的逐词或因果解释准确率。表中 Opus 5 两项均更高,flow-1 的定位是以较低检查费用取得有竞争力的结果。

费用表只统计总 LLM token 少于 10 万的轨迹,计入完整 Signals 调查及检索步骤:flow-1 每条约 0.0011 美元,GPT-6-sol 约 0.026 美元。这是检查轨迹的模型费用,不包括被检查 Agent 原来的运行成本。评论区关于漏跑任务、过期输入以及开发者对训练效率的回应,另按作者保留在下方。

可信度 65 · 重要性 85 · 新颖度 78

技术与主题

Agent 系统 · 评测与基准 · 训练与对齐

sebastienburel

观点原文

回应原帖:查看原帖上下文

在 Laminar 发布帖下描述自己的常驻 Agent,未声称测试过 flow-1。

忠实转述(非原句):他的 Agent 本该早晨启动,但宿主机器的计时方式与休眠交互,导致任务根本没有运行,也没有重试。他追问:能否把“预期运行的任务”与“实际发生的运行”相对照?如果只检查产生出来的轨迹,安静的遗漏仍会被漏掉。

nucleus777

观点原文

回应原帖:查看原帖上下文

在同一帖中提出输入层面的辨别问题,不是独立性能实验。

忠实转述(非原句):工具可以成功返回,却交回过期缓存或带有提示注入的文本;后面的推理在这些输入上仍可能很连贯。他关心的是,检查器如何区分“模型误解了正确输入”与“模型从一开始就拿到了错误输入”。调用成功本身并不能回答这个问题。

skull8888888(Robert Kim)

观点原文

回应原帖:查看原帖上下文

开发者回应训练与效率问题;属于作者补充,不能算独立评价。

忠实转述(非原句):训练使用了检查流程实际提供的搜索、读取工具,并采用适合长提示的 GSPO。他说奖励与探索之间很难平衡;当前检查点在复杂轨迹上产生过多思考 token,会拖慢检查。下一步希望在较少思考量下保住质量。

编辑评读

flow-1 最值得借鉴的做法,是把“看完日志给分”改成带着问题取证。合同的 105 天约定、90 天附表和已关闭的事项,需要一起出现才构成完整错误;单看工具调用是否成功,或只读最后一句完成报告,都无法得到这组对照。先搜索再读取的设计,使长轨迹检查有机会把预算集中在相关证据上。它的价值应体现为找出可以复查的矛盾,而不只是生成一段看似合理的批评。

原文同时给了正确克制与漏检的例子:一条审查轨迹正确指出 yaml 被换成 pyyaml 的导入错误,flow-1 没把这条正确发现再报成问题;另一份合同缺少必需条款,它却没有发现。这意味着评估不能只收藏抓得漂亮的案例。试用时应分别记录真实错误的召回、正常轨迹上的误报,以及解释是否足以指导修复;未告警样本也要抽查,否则容易把沉默误当成通过。

评论者的漏跑经历又界定了产品入口:任务根本没有启动,就没有轨迹送进 Signals,这不是检测 F1 能回答的问题。另一位评论者指出,即使调用成功,返回的缓存或文本也可能不可信。由此看,轨迹检查适合成为已有运行中的语义复核,部署方仍需提供预期任务清单、输入来源与版本信息。便宜的检查扩大了可检查范围,但只有这些参照齐全,发现问题后才知道该补调度、换输入还是改推理。

需要留意

  • 厂商数据及样例;本轮未取得同版本的独立复测。平台可自托管不代表 flow-1 权重已开放。

核查依据

所属事件

收录记录