淡紫色桌面上的蓝色玻璃印版与纸上印迹,边缘一处品红偏移提示对应与容差;为编辑比喻,并非技术结构图。

DAILY AI INTELLIGENCE

最新日报 历史日历 ↗

2026-11-04 · AI 日报

从推理证明到评测修补,重新理解“通过”

6 条精选1 份学习材料资料截至 2026-11-04 08:03(北京时间)

EDITOR’S NOTE

本期导读

AI能完成的工作继续增加,判断这些结果是否值得采用,也开始需要更精确的语言。今天最值得追问的不是又有多少项目宣布“通过”,而是通过之后,我们究竟多知道了什么:回答确实来自指定权重,业务流程确实完成,还是训练输入确实还原了当时的信息?这些保证各有价值,也各有自己的条件。

先读 FlashProve 与公开评测审计:前者把远程推理的一部分信任变成可检查的计算关系,后者说明工具说明和判分规则怎样改变成绩。再看 OpenHands 的真实工具循环训练与 USDB 的历史重建,理解如何把这些条件落实到训练材料里。权重实验的笔记本尝试补上了独立但狭窄的新证据;Ben Stolovitz 的使用记录则把视线拉回人,讨论更容易做出原型之后,注意力、定义问题和审查工作去了哪里。

组合筛选

METHODS & SYSTEMS

技术进展

04
值得读系统与效率 / 评测与基准
追踪记录 ↗

FlashProve:回答来自哪组权重,开始有了可检查的证明

可信度
65
重要性
78
新颖度
78

调用远程模型时,用户通常只能相信服务商报出的模型名称,无法查看实际用了哪组权重。Anthropic 的 FlashProve 尝试补上这一环:先为权重生成一份密码学承诺,相当于不可随意改换的指纹;服务端随后为指定输入和输出生成证明,验证者不必拿到权重,也不必配备 GPU,就能检查计算是否符合该承诺。它证明计算关系,并不证明答案内容正确。

研究原型把每次只激活部分子网络的混合专家模型 Llama 4 Maverick 的整数化计算分块处理,逐层把数据送入一张 H100 80GB,主机内存仍约需290GB。团队报告,24个请求、每个1024 token 窗口的一批证明耗时223秒,折合约110个预填充 token/秒(一次处理给定文本的速度);每份证明实际检查一个指定 token,不能读成每秒验证110个新生成 token 或完整回答。证明约18.78MB,CPU验证约需17秒(24线程)或21秒(单线程)。

库还区分两种接受条件:严格符合整数模型的贪心输出,以及在配置容差内接近该输出。后一种是为了容纳常见浮点推理与整数模型的差异。Lean 中的形式化安全论证与快速 C++ 验证器也不能混称:后者尚未证明与形式化实现完全等价。当前发布的是不承诺维护的研究原型。

编辑评读

这项能力改变了远程服务中一个过去难以检查的环节。过去,用户很难区分“模型本身答错”与“服务端换用了另一组权重”;承诺与证明让其中一个问题有机会被单独检验。它也保留了不公开商业权重的空间,因此可验证性与开放权重并非必须捆在一起。实际使用仍要先有可信渠道,把某个承诺值对应到声称的模型;如果标识和值都只由待检查的一方随手提供,证明没有替用户完成身份确认。

更容易被忽略的是接受策略。为了兼容浮点输出,系统会计算输出相对整数模型最高分 token 的差距,再按阈值决定是否接受。文档明确说明,阈值太宽或输出分数过于平坦时,检查的区分能力会很弱。因此“验证程序返回成功”至少要连同承诺、检查范围和容差一起解释。严格证明与工程近似可以共存,前提是读者知道自己拿到的是哪一种保证。

性能数字同样要顺着用途读。这里对已经得到的文本批量重算并生成证明,预填充吞吐不等于在线生成速度;每次仅检查一个位置,也不等于整个回答都已覆盖。下一步有价值的证据,是独立实现对同一承诺、同一输出范围和接受策略的交叉检查,以及完整服务链路的延迟与费用。目前不能据此宣称生产 API 已经提供这一能力。

依据 1 · 依据 2 · 依据 3

值得读评测与基准 / 基础模型
追踪记录 ↗

权重实验的新证据:笔记本复现了三种小游戏识别,也暴露了外推边界

可信度
65
重要性
78
新颖度
74

昨天介绍的 Weight-Space Programming 把几类工作放在一起:读出小网络学过什么、手工构造或修补网络,以及借助 Python 修改语言模型。本期新增的是 Simon Willison 的独立尝试和对实验条件的批评,而非把原来的数学分数再次当作新进展。

Simon 取用作者公开的小游戏网络权重与同样的提示,在自己的笔记本上运行 Qwen 3.8 27B。这里的输入是约1.7万个浮点权重及网络结构,任务是判断网络受训于哪种游戏;提示描述输入通道与动作,但没有列出游戏名称供选择。他报告认出了 PacMan、Pong 和 Breakout,却把 Freeway 错判成 PacMan。单次成功尝试需要约46至65分钟,默认8192上下文不够,必须扩展窗口并延长超时。三次正确、一处失败说明这项狭窄能力值得复查,但样本太少,不能当作稳定正确率。

Matthew Honnibal 则指出,原报告中的直接读浮点数、调用工具分析参数和带反馈编辑权重,不是同一个实验条件。Qwen 数学改善尤其涉及工具与反馈,并与解除重复推理故障有关。Simon 的复现增加了“小网络原始权重可以被其他模型分析”的证据,没有复现语言模型权重修补,更没有证明模型已普遍理解大型网络。

Matthew Honnibal · 原帖 / 原文

语境:阅读全文;对原报告不同实验条件的文本分析,并非自己复跑全部实验。 · 读取时间:2026-11-04T00:17:42.186496+00:00

逐句忠实转述(非原文)

他认为读者容易把几种不同做法拼成一种统一能力:有的实验只给小网络浮点数,有的允许写代码、调用工具和观察结果。把后者理解为自动化了一部分机器学习工程师的工作,依然令人兴奋;问题在于标题带来的印象可能超出各个实验真正展示的范围。

X 观点 Neko Itosu · @WHMaoXian · 原帖 / 原文

语境:For You公开原帖;此处保留其对Qwen修补的评论,原帖另谈Claude小型算法网络,未混作同一实验。 · 读取时间:2026-11-04T00:17:42.186496+00:00

逐句忠实转述(非原文)

他反对把少量参数修改后的数学涨分直接讲成递归自我改进:Qwen 原本有严重重复推理,修补使已有能力更容易发挥。他仍认为权重编程有研究前景,只是不接受据此推导出可以替代梯度下降。

X 观点 Haoyu · @cjantwhy · 原帖 / 原文

语境:回复Neko的同一讨论;提出更有说服力的后续实验标准,不是报告已经完成的新测试。 · 读取时间:2026-11-04T00:17:42.186496+00:00

回应原帖:Neko Itosu

逐句忠实转述(非原文)

他补充说,原作者对 Gemma 的数学改善并不明显,而 Qwen 的相关问题在模型卡里已有说明。如果大模型能在研究者指定的领域,找到此前没有明确标出的潜在问题,并通过参数修改改善它,证据会更有说服力。

编辑评读

这次本地尝试让权重分析的一项具体能力可以被单独讨论。独立作者在本地较小模型上得到三个正确判断,削弱了“只能由少数最强闭源模型完成”的笼统说法;但复现的是固定结构的四个游戏网络识别,不能顺带给参数编辑和通用自我改进背书。把三个主张分别列出,反而更容易看出新能力确实落在哪里。

这种任务中,权重并不是完全没有结构的数字。网络的输入通道、空间位置和输出动作都已知,参数之间的模式可以与游戏中的空间特征对应。能利用这些线索仍然有意思:它让模型参与模型诊断成为可以尝试的方法。接下来应查的是,当游戏种类、结构或初始化改变时,判断还能不能成立,而不是只换一个更响亮的“理解”标签。

中文讨论提出了另一条值得保留的验证方向:从已知故障修复走向未知问题发现。让强模型在指定领域诊断一个没有预先公布缺陷的小模型,再与等预算的工具搜索或人工诊断比较,能更直接地区分发现能力与已知修复方案的应用。这是后续建议,本期没有执行。对现有结果的合理态度,是保留这一方法的潜力,同时把昂贵的推理时间、失败案例和反馈条件写进能力描述。

依据 1 · 依据 2 · 依据 3 · 依据 4 · 依据 5

值得读Agent 系统 / 系统与效率 / 训练与对齐
追踪记录 ↗

OpenHands × Snowflake:让模型在真正使用的工具循环里训练

可信度
65
重要性
78
新颖度
78

同一个模型,换一套系统提示、工具和回合上限,完成任务的方式可能明显不同。这些围绕模型运行的程序通常统称为 harness。做强化学习时,团队常要另写一套训练环境;如果它与生产工具循环不同,模型学到的行为未必能直接迁移。OpenHands 与 Snowflake 的方案让现有 OpenHands SDK 经由 Harbor 任务环境参与训练,尽量复用实际的提示、工具调用和文件操作流程。

一个任务目录同时描述要求、环境和测试。Agent 在沙箱中运行,结束后测试读取实际文件状态并给奖励。训练代理记录跨回合的原始 token 序列,只对模型生成部分计算训练损失,提示和工具返回不计入这部分损失,避免事后拼装对话改变训练对象。

演示使用 Qwen3.5-4B 定位 Python 代码库中的相关文件、模块与函数,每轮最多10次交互,25个训练步骤各采样64条轨迹。图中纵轴是三个定位 F1 分数之和,F1综合衡量查准与查全;总和最高3分,不是修复成功率。配套 README 另列32个评估任务的自测:均值从0.31升到2.10。默认训练与采样各占4张H200,不能把“现成harness可复用”读成低成本桌面教程。

作者的25步训练奖励曲线。每步64条轨迹,纵轴为文件、模块、函数定位F1之和(满分3);这不是独立评估的修复成功率。OpenHands / Snowflake,原博客训练图;用于解释本项实验,保留原图。 · 原文图表 · 图片出处 ↗

编辑评读

这里可迁移的做法,是把训练对象固定为真实工具循环,而不只是最终答案字符串。工具错误、文件状态和后续决策共同构成轨迹;如果训练时换成简化工具,优化的可能是另一个任务。代理保存实际采样的 token,也能减少重新编码或重建对话造成的偏差。但复用SDK不自动等于完整复制生产环境,例如此处终端调用会保留当前目录,但环境变量和后台进程不跨调用保留;依赖持续进程的生产任务需另查兼容性。

最需要在动手前检查的是评估入口。README 中评估默认不开启,评估任务路径又默认继承训练路径;使用者必须主动指定独立任务并启用评估,才能把“训练奖励上升”与“未见任务变好”分开。图中的25步训练曲线只能说明优化过程,32题评估结果是另一项有限自测,本期未独立检查其与训练任务的重叠,也没有跨代码库、跨任务普遍改善的证据。

这使它很适合作为流程学习材料:先选一个有确定测试的窄任务,确认空操作得不到奖励、参考解确实能过,再检查失败到底来自模型还是环境。仓库把基础设施错误轨迹排除出训练损失,避免将环境坏掉误当成模型能力差;实际比较时还应单独报告这种排除有多少。我们核对了文档,未启动训练。

依据 1 · 依据 2

值得读Agent 系统 / 评测与基准
追踪记录 ↗

Prime Intellect 审查公开评测:涨分可能来自工具和判分器的修正

可信度
65
重要性
78
新颖度
78

模型卡上的分数看似直接反映能力,实际还取决于工具怎样描述、答案怎样评分,以及联网时能读到什么。Prime Intellect 在运行多项公开评测后公布了问题记录与修复,最值得看的不是排行榜变动,而是失败怎样进入分数。

AutomationBench 要求 Agent 跨应用完成业务流程。原工具说明用自然语言描述请求体,模型需要猜字段与参数组合;团队改成明确字段、类型和允许组合的 JSON Schema,并修改一些任务和判分规则中难以从题目推知的要求。修订后,Opus 5.5 在公开集的部分得分为92.15%,严格得分为70.83%。直接把工具注册给 Prime Agent 后又是另一组成绩,不能与原版 Zapier 运行直接横比。所谓接近饱和,首先针对这里的公开集与部分计分。

OfficeQA Pro v2 面向美国联邦财政文件的检索推理。作者展示了正确答案因为提取出的数字数量或文字长度被判错的情况;修订版换用参考答案裁判,调整语料和题目,并去掉开放网络访问。原文还记录了模型借联网查到公开答案的轨迹。修复让任务更可解释,但也改变了评测设置;更高分既不能全部归给模型进步,也不等于新判分器已无误。

修订版公开集的两种运行模式。上半直接注册工具,下半为仍需发现工具的Zapier模式;后者也不同于原版所报api_fetch配置。严格与部分计分相差明显,跨模式不能只归因于模型能力。Florian Brand / Prime Intellect,原博客AutomationBench结果图;用于评论该测量口径。 · 原文图表 · 图片出处 ↗

X 观点 Hamel Husain · 原帖 / 原文

语境:经FxEmbed取得的原帖,引用Prime Intellect发布;是对这次审计的评论,没有另做独立复现。 · 读取时间:2026-11-04T00:17:42.186496+00:00

回应原帖:Prime Intellect

逐句忠实转述(非原文)

他先列举 AutomationBench 的工具说明及判分问题,再提到 OfficeQA 对有效答案的误拒与答案泄露。他认为人们对第三方分数的依赖超过了这些分数值得承受的信任,主张亲自查看数据,尤其应使用贴近自身任务的私有评测。

编辑评读

这里有两种方向相反的误差。含糊接口和过窄判分会压低本来完成任务的成绩;访问泄露答案则会抬高并非靠目标能力得到的成绩。只问分数是不是更高,会把这两种问题混在一起。实际审计可以先按失败轨迹分类:参数猜错、业务状态错误、表达等价却判错,还是读取了不应取得的答案。不同类别需要不同修复。

修正自然语言说明也不只是换一种格式。仓库还补了时钟约定、动作返回的标识一致性,以及任务要求与检查位置的对应关系。例如要求把销售策略存到机会记录,却只在备注里检查,便可能惩罚合理实现。对于自己的评测,先检查“题目允许怎样完成”和“测试接受怎样完成”是否一致,比直接加一个更强的总评模型更能定位问题。

作者在专家级知识与推理评测HLE-Diamond的运行中还观察到,监控器逐次过滤工具输出仍可能被跨多次调用的策略绕过,过滤结果本身也可能成为线索。这是具体轨迹提供的风险,不等于所有联网评测都失效。相应的改进应把整个任务的历史纳入检查,并统计正常求解被误挡的比例。私有评测可以减少公开答案泄露,却不会自动修好含糊任务、坏测试和偏置裁判。

依据 1 · 依据 2 · 依据 3

VOICES & EXPERIENCE

观点与经验

01
值得读Agent 系统 / AI 编程
追踪记录 ↗

六个 Agent 同时工作之后,人的精力花在了哪里

可信度
65
重要性
78
新颖度
68

Ben Stolovitz 在10月31日发布、11月1日更新的年度使用记录,今天因新讨论受到关注。他已从微软 Windows 团队转到 Salesforce AI Research,主要做原型;工作用 token 费用约每月3000美元由公司承担。因此,这是一位有经验、预算较充足的研究工程师的经历,并非普通开发团队的平均生产率调查。

他现在会在独立工作区里同时推进五六个 Agent 任务,能更轻松地试做以前放弃的想法、补紧急问题,也喜欢模型自己调用语音功能来测试产品的巧思。与此同时,管理六段不同对话让他感到过度刺激和疲劳。他今年最成功的一项工作,反而是亲手把约4000行生成代码重写为几百行,使其更容易测试与扩展。

研究中的挫折更能说明边界:做对话轮次识别时,模型能找资料,却会沿着他最初提出的架构继续走;如何区分打断与轮次、如何标注数据,仍让他反复耗费时间,后来与同事交谈才澄清。他很享受原型能力扩大,也在重新寻找自己愿意承担的审查、思考与创作方式。

Ben Stolovitz · 原帖 / 原文

语境:作者从个人工作与学习经历出发;其原型任务、经验和公司预算限定了可推广范围。 · 读取时间:2026-11-04T00:17:42.186496+00:00

逐句忠实转述(非原文)

他改变了审查重点:更关注设计与测试,而不是逐行接管生成过程;反复出现的问题会写成规则。他没有把这当成不需要人类经验,自己手工重构的成功也提醒他,好结构并不自动随更多生成而来。

Dzugaru · 原帖 / 原文

语境:HN同文评论;个人高频使用经历,没有提供对照实验。 · 读取时间:2026-11-04T00:17:42.186496+00:00

逐句忠实转述(非原文)

他同样每月花费超过3000美元使用模型,但仍每天在代码中找到 Agent 和测试共同漏过的错误假设,尤其发生在数据分析与复杂系统里。他认为很多情况下读代码不能省掉,而认真读过一遍往往也会让代码更短、更好。

epihelix · 原帖 / 原文

语境:HN对“编程已解决”的讨论;保留作者对自身熟练度这个混杂因素的疑问。 · 读取时间:2026-11-04T00:17:42.186496+00:00

逐句忠实转述(非原文)

他的经验更乐观:一年多前常要逐行修正,如今模型给出的代码与方案已更少需要大改。不过他也不确定改善有多少来自模型本身,有多少来自持续使用后更懂得怎样提供细节、描述问题,以及提出方案却不把其他选择堵死。

编辑评读

这篇记录提醒我们,产出变多与工作变轻松是两项不同变化。并发使等待时间变短,却让人不断在不同问题、文件状态和模型假设之间切换;当一次提示就能继续生成,人也更难找到自然的停止点。没有匹配任务和长期质量数据,不能从这些经历计算净效率,但它把下一步应测的成本说得很清楚:切换、核对和返工。

研究问题还多一层。若目标本身没定义清楚,Agent 会很有效地推进一个暂时接受的解释,生成更多看似相关的文献、代码和分析。这些产物又会增加改方向的心理与审阅成本。可以借用的方法,是在大规模实现前单独检查任务定义:哪些现象算成功,哪些相似现象不算,两个熟悉领域的人能否对同一个例子达成一致。它与让模型提出更多方案不是同一件事。

评论区的分歧也有信息量:有人在复杂系统中仍每天发现测试漏过的假设,有人却明显减少逐行修正。两者未必矛盾,因为任务结构、历史经验和提示习惯都不同。更有用的比较单位是一个能说明上下文的完整案例,而不是“编程已经解决”或“模型仍然不行”这类总判断。

依据 1 · 依据 2 · 依据 3 · 依据 4

RESEARCH RADAR

论文灵感

01
论文速览基础模型 / 训练与对齐
追踪记录 ↗

USDB:训练该重建模型当时看见的历史,而非事后补齐的历史

可信度
65
重要性
78
新颖度
78

推荐模型读取的用户行为序列越来越长,存储系统却仍不断接收很小的新动作:每增加一次点击就重写整段历史很浪费,而每次推理都保存完整输入,又会重复存下大量相同前缀。USDB 的工业实践把写入、历史整理、在线读取和训练重放放进同一套序列生命周期。不同副本分担整理与读取工作,共享已经生成的历史文件;推理时只保存近期片段,训练时再与可复用历史拼接。

难点是后来收到的数据可能“发生得早、到达得晚”。假如在线推理看见动作2、3、6、7、8,离线历史随后补入4和5,仅按动作发生时间截取,就会把当时不可见的信息塞进训练样本。论文用日志序号(LSN)记录到达版本,重放时同时受事件时间和当时可见版本约束;更新过的聚合值也需要保留兼容旧版本的底层数据。

在论文报告的两小时、61个观测点中,完整序列一致率从未使用该版本过滤时的16%—25%,变成97%—100%。这衡量输入重建是否一致,不是推荐点击率或所有生产请求的可靠性。文章还给出部署与读取实验;本期重点阅读了架构、重建方法、一致性结果与部署限制,未独立重跑。

评读:这份实践最有启发的地方,是把“历史”拆成了发生过什么与系统当时知道什么。训练样本若采用后来修正的完整记录,就可能让模型学习现实中无法及时得到的信息。版本边界把这种差别从口头约定变成数据接口的一部分。相同问题也会出现在离线回测、延迟标签和 Agent 轨迹重放中:时间戳早于决策时刻,并不足以证明信息当时已可用。

省存储的前提也因此更具体。只保存近期片段能减少重复前缀,但旧历史必须仍可按当时版本重建;如果后台合并已不可逆地覆盖旧聚合值,留下一个时间戳也救不回来。真正需要一起设计的是保留多久的细节、哪些版本必须保存、最近片段覆盖多长的延迟和故障恢复窗口。论文选择的一天窗口与部署流量有关,不能直接照搬到所有系统。

它不是一份小团队可照着替换数据库的通用性能承诺。作者的早期迁移记录里,5千动作长读的平均延迟仍逊于旧系统,10万动作时才更有优势;收益随着长度、投影列与负载改变。可以先借用“记录可见性边界”的原则,用一条迟到事件检查自己的训练重放,而不必先复制整套大规模存储架构。这个小检查是编辑建议,尚未执行。

原论文图6。橙色为现场保存的近期片段,红色4、5是迟到动作;仅按时间重放会错误加入它们,加入当时的LSN版本边界后才能排除。图为方法示例,不是成功率统计。Zhu等,USDB arXiv v1图6;从原PDF矢量页高分辨率截取,用于解释重建机制。 · 原文图表 · 图片出处 ↗

灵感:小增量写入与大历史重复读取共存时,既复用历史又避免事后信息混入。 · 限制:局部阅读与初步比较;工业自报,未独立复现,不能将全部改进归于单个机制。

BenoitP · 原帖 / 原文

语境:HN对该论文的讨论;自述正在工作中搭建传统推荐模型,未声称测试过USDB。 · 读取时间:2026-11-04T00:17:42.186496+00:00

回应原帖:USDB讨论

逐句忠实转述(非原文)

他追问小团队怎样从传统推荐模型走向生成式推荐:产品数量、重复购买偏好、冷启动、特征、解释性和训练推理费用都有困难。在他所在的小公司,即便已经关注 OneRec,适配那套流程也仍是很远的目标。

LEARN BY DOING

技能学习

每天 1–2 份实践材料

博客 · 项目实践 · Snowflake AI Research / OpenHands

沿一条真实轨迹读懂 Agent 后训练

把提示、工具回合、原始token、奖励和独立评估连起来,适合准备把现有Agent接入训练的人。

熟悉基本Python与工具调用;理解训练集和留出集的区别即可开始读,复跑训练另需多卡资源。 · 编辑建议先花30—45分钟读任务目录、rollout与evaluation配置;这不是作者承诺的运行时长。

动手试试:纸上追踪一个任务:哪些token参与损失,测试看到哪份文件状态,评估路径是否独立;再拟一个空操作反例。此练习尚未由本期执行。

CONNECT THE DOTS

把几件事放在一起看

编辑观察
追踪记录 ↗01

把“通过”后允许相信的事写完整

此前我们把测试通过与目标行为正确分开讨论。今天的材料进一步说明:即便检查过程本身严格,接受的命题也可能比用户理解的窄。FlashProve 可以核对指定权重承诺下的计算,但实际接口还要说明检查了哪些位置、是否允许近似,以及承诺怎样对应到用户购买的模型。问题已经不只是有没有验证,而是验证结果究竟携带了多少可以继续使用的信息。[1]

这与公开评测的缺陷有相通之处,却不是同一种技术错误。AutomationBench 的部分计分可以接近满分,严格完成仍有明显差距;OfficeQA 的字符串规则可能拒绝有效答案,也可能让联网找到答案的过程得到好成绩。密码学协议关注给定命题是否成立,业务判分还要确认命题是否忠实表达任务。后者不能仅靠更严格地执行旧规则解决。[2]

由此值得改变的判断,是不再把成功状态当作可以直接传递的保证。一个下游使用者真正需要的是:在什么输入、工具、预算和接受条件下,哪项性质已被检查。例如“定位奖励提高”应继续说明文件、模块、函数三个分量和评估任务来源;“历史重建一致”应说明是完整序列匹配,且只使用当时到达的数据。把这些条件留下,别人才知道结果能否用于自己的决定。[3][4]

也不能把条件写得越多就当作越可靠。说明书可以很完整,检查却未必能区分我们关心的错误。一个可借用的做法,是围绕实际承诺找一对相近案例:答案含义相同但格式不同,工具返回一致但标识指向错误对象,事件时间相同但到达时间不同。再看判定是否随真正相关的变化而变化。这样既能发现错误通过,也能发现合理行为被拒绝;本期只是提出这条检验路线,没有报告我们已经运行过这些案例。

这条思路也解释了为什么不能给所有任务套一层统一审核。低风险原型可能只需一项明确测试;服务模型身份、科研比较与历史数据重放则分别需要不同证据。应先说清下一位使用者会据此做什么决定,再选择足以支撑该决定的检查。更强的模型和更严格的证明都很有价值,它们最有用的时候,是替一个具体承诺补上原来无法检查的部分,而不是把所有含义不同的成功压成一个绿灯。

涨分也可能来自更宽的接受范围、不同工具入口或新的任务选择;应先核对这些变化,再判断能力贡献。

后续查同一任务下接受策略的敏感性、正常案例误拒与完整链路成本;追独立验证器和修订评测的可复跑记录。

相关条目:FlashProve:回答来自哪组权重,开始有了可检查的证明 / Prime Intellect 审查公开评测:涨分可能来自工具和判分器的修正 / OpenHands × Snowflake:让模型在真正使用的工具循环里训练 / USDB:训练该重建模型当时看见的历史,而非事后补齐的历史

来源 1 · 来源 2 · 来源 3 · 来源 4