持续追踪

Prime Intellect 审查公开评测:涨分可能来自工具和判分器的修正

按时间保留当时的判断和后续核查;历史收录不代表刚刚重新验证。

2026-11-04 · 当时的记录

模型卡上的分数看似直接反映能力,实际还取决于工具怎样描述、答案怎样评分,以及联网时能读到什么。Prime Intellect 在运行多项公开评测后公布了问题记录与修复,最值得看的不是排行榜变动,而是失败怎样进入分数。

AutomationBench 要求 Agent 跨应用完成业务流程。原工具说明用自然语言描述请求体,模型需要猜字段与参数组合;团队改成明确字段、类型和允许组合的 JSON Schema,并修改一些任务和判分规则中难以从题目推知的要求。修订后,Opus 5.5 在公开集的部分得分为92.15%,严格得分为70.83%。直接把工具注册给 Prime Agent 后又是另一组成绩,不能与原版 Zapier 运行直接横比。所谓接近饱和,首先针对这里的公开集与部分计分。

OfficeQA Pro v2 面向美国联邦财政文件的检索推理。作者展示了正确答案因为提取出的数字数量或文字长度被判错的情况;修订版换用参考答案裁判,调整语料和题目,并去掉开放网络访问。原文还记录了模型借联网查到公开答案的轨迹。修复让任务更可解释,但也改变了评测设置;更高分既不能全部归给模型进步,也不等于新判分器已无误。

本次记录的观点:Hamel Husain

回到当期正文 ↗

查看依据原文 · 原始依据 · 原始依据 · 原始依据