AI 技术知识库

Home

❯

技术主题

❯

评测与基准

评测与基准

2026年11月04日13分钟阅读

  • 浏览器 Agent 为什么越跑越贵:从缓存命中查起
  • GRPO 实践:读懂训练曲线,再排查不稳定
  • 从真实失败开始,为 Agent 写一组有效评测(旧文)
  • 为代码审查写一个能失败的评测
  • 保留失败运行,再修正错误的 ground truth(旧文)
  • 把五选一概率和正确率分开测
  • 让一次抓包只回答一个问题:hw-harness 方法文档
  • 把自己的失败与修正做成 Agent 评测
  • 用 llm-echo 看清请求和工具回合究竟传了什么
  • 设计 Agent 评测时,先说清自己在测谁
  • 给一次修复补齐前后版本证据
  • 用一个文件读回测试检查模型的状态记忆
  • 从真实轨迹解释系统为何过载后难以恢复
  • 从答案验证器开始,学习推理模型的训练与评测
  • 用一份多页记录练习“局部没看见”与“全局缺失”的区别
  • 用一个小世界模型学习:为何预测准确仍会被策略钻空子
  • 沿一条审查意见追踪:发现、复现、修补、回归
  • 科研 Agent 跑了许多实验,结果真的算创新吗?
  • Agent 做不到时,能不能停下来?
  • Agent 成本优化:先看看缓存有没有被自己破坏
  • Michael Lynch:编程助手为什么还让人费心
  • 多 Agent 写代码,怎样把验证放进流程
  • Thomas Hales:通过 Lean 检查之后,还需要相信什么?
  • 一个普通用户的评测困惑:会做一次,还是稳定做对?
  • 游戏能运行,不代表反编译正确:一份三个月的 Agent 实践
  • MASS:从团队轨迹训练模型,收益先出现在研究任务上
  • Mac 流式推理:页对齐与同步等待,怎样拖慢首 token
  • Karpathy:为什么不同人看到的 LLM 能力差这么多
  • “十分钟 AI”研究:撤走辅助后测了什么,没测什么
  • 昇腾 310P 上的本地 MoE 调试:先找数值参照,再优化内核
  • 检索到“红富士手机”:先加 Reranker,还是先收窄知识库?
  • AI 接走基础工作以后,新人从哪里学会判断?
  • 代码多了三成,交付为何没有同比增加?
  • Vapi:让审查机器人证明问题,也把误报算进成本
  • SWE-TaskFlow:同一个补丁,换成交互流程就可能更贵
  • Muse Wonder:模型进步,要连同推理强度和执行器一起比较
  • Anthropic:小模型能搭起推理,完整自主复制仍有缺口
  • Huahai 回应 Rich Hickey:使用 AI 时,人是否还在作判断?
  • MetaKernelBench:存下来的经验,也可能让下次优化退步
  • HANS_DEV 的客服检索经验:先确认知识库该管什么
  • AgentSWE:从演示样例到冻结交付,还隔着一组保留测试
  • TerminalHorizon:重建训练环境,把被预先做掉的工作还给 Agent
  • BranchOPD:在有信息的分叉处采样,生成费用与总成本分开看
  • AlphaNIST:二元奖励学会装配,结果仍限于仿真
  • IBM 的开放模型芯片探索:推理费少了,最优设计也不同
  • Huntley 用提交钩子约束诊断接口,也要求重测提示词包
  • 读对事实,仍选错动作:System One 模型的配对诊断
  • DeRef:先不看候选,替工具参数裁判补一份参考
  • 两份本地模型应用都通过测试,却都没保住数据含义
  • Niko Matsakis:类型系统能拦错,设计意图仍要说清
  • 删掉16.8万行注释后的两项试验:单次运行能得出相反故事
  • 扫描仪驱动从停滞到可对照:Schaller 的硬件逆向实践
  • Cortex:规则要被读到,收益也要经得起重复运行
  • PreciseCoder 给必要修改计分,也检查正确代码会不会被改坏
  • Nick Cammarata 重审多义神经元:先检验原生机制的解释
  • Simon 的 SPARQL 扩展尝试:验证循环也会大量消耗 token
  • Mason Mosen:改 prompt 后,先回放同一批旧失败
  • ARC Prize 的 Argon 结果:同模型,两种执行层与不完整运行
  • 时钟生成了曲线种子,仍有候选跳过的原因未明
  • Claude 重设计量子电路:少存历史,也显式使用失败预算
  • OmniVerifier-C1 把图像要求拆开计分;规则任务再提供参考终态
  • SAE 重建表现接近,学到的特征仍可能对不上
  • 审查机器人也要会停:Claude Code 团队把误报和循环轮数纳入评估
  • Piotr Sarnacki 重测聊天应用改写:送达率上升,也可能只是排队更久
  • DeepSeek 1017 的便宜,要放回同一组任务里看
  • Lean 把“再检查一次”做进工具链
  • Sphinx 要你解释改动,也暴露了出题者会判错
  • 让 Agent 学会接棒:MPT 的启发与被放大的结论
  • 回访更正:Anthropic 收窄了“绕过工具限制”的含义
  • EmbeddingGemma 转写实验:用共享向量空间读出语音
  • KillSwitch:故意为难模型的语言,究竟测到了什么
  • Harness²:从任务中的执行差异,改进下一次运行框架
  • Meta 把流程固定下来,把领域判断交给专门 Agent
  • Laminar flow-1:沿轨迹追查隐性错误,也暴露“没有轨迹”的盲点
  • Interlock:把“改了这里,还必须改哪里”写进训练任务
  • Ben Congdon:让模型写监控方案,再由固定程序执行
  • 不理解每一行 AI 代码,谁来承担发布责任
  • StopLoss:小模型决定何时停下,账单必须算入误停
  • SlopCodeBench:新功能通过,旧行为却未必保住
  • 给 Agent 加记忆之前,先留下全文搜索这条基线
  • PHP 修复复盘:发现漏洞之后,还要解决兼容性与决策
  • Trail of Bits 把“修好了”拆成可重放的证据
  • HarnessAdapt-RL:训练会改模型,也要重调工具
  • 同一台 4B 模型的 50 次运行:失败常在编辑接口
  • 分布式生物推理:把扰动数据变成可追问的线索
  • 语音代理会要求再说一遍,为什么仍记错名字?
  • 一次内部监控红队调查:覆盖率的分母从哪里来
  • Anthropic 与 Theorem:把模糊测试入口变成可检查的证明
  • WorldTUI:208 MB 的终端模拟器,暴露了局部准确率看不到的记忆
  • Kimi K3.1 Pro 的外部成绩上升,权重仍要等到 11 月
  • AISI 重放越界行为:说得出有害,仍可能继续行动
  • Cloudflare 把漏洞扫描拆成持续任务,保留每次检查的证据
  • Dan Luu 想做更大的项目,Yossi Kreinin 追问谁能判断做对了
  • 数学社区开始整理 AI 证明稿,也在争论这份劳动该由谁承担
  • Atlassian 调查:写得更快,可以与更多协作摩擦同时发生
  • 发现评测缺陷之后,还要追问它改变了什么
  • 一份大模型求职复盘:准备清单怎样碰到真实追问
  • Kapa 追踪检索丢失:答案需要的材料,可能已找到却没送进上下文
  • Epoch 把日常工作交给六个模型:会做步骤,仍可能误判研究结果
  • Cohere 公开 Qwen 异常调用轨迹:行为可查,成因仍未定
  • 只看 AI 标红的代码,怎样知道它漏了什么
  • FLORA 把机器人视频变成可用标签:做了什么,与做得怎样分开
  • 专家也会顺着 Agent 的倾向做判断:一项有意设置偏好的实验
  • 让模型评“有没有新意”,先检查它到底在回答哪个问题
  • Enveda 审查生产记录:把“找问题”变成可逐项核对的意见
  • MiniCPM-OCR 把“读出文字”和“判断读得对不对”拆开
  • DAYJOB Tax:文件给齐了,模型仍可能漏掉没有被点明的问题
  • AA v5 更换了考题,也让“总分代表什么”重新成为问题
  • Simantic:让固件 Agent 在虚拟开发板上运行测试
  • tinyworldformer:小模型能运行游戏,也会给玩家留下漏洞
  • 15 个 AI 助手的讨论:交接建议之外,读者还想看到产出
  • Gemini Carbon 引发试用兴趣,评测细节却要求重新拆开“更强”
  • Nathan Lambert:模型忙着回避灰区时,可能漏掉用户真正的问题
  • Mollick 推荐组织能力视角:更聪明的个体,还要能一起做事
  • Figma 的专用模型,学的是怎样改好已有设计
  • MICA:能力相同,MCP 与命令行仍会改变 Agent 的选择
  • 微软先造一家公司,再让 Copilot 回答它的问题
  • Lambert 修正了“没问题”这个说法,仍支持开放模型
  • 推理快了、总分近似不变,就能说质量不变吗?
  • 50:经理也可能把正确答案改错
  • Mollick:知道何时能介入,也是助手的能力
  • Jepsen 检查 ParticleDB:测试通过之前,先确认它会失败
  • 把代码审查意见带进沙箱,仍要再检查补丁
  • 生成一次小应用,框架成本差在哪里
  • Frank Calegari:数学研究还需要选择问题、理解结果
  • 直接改 0.016% 权重:先修复小模型的重复推理
  • PostgreSQL 的延期:更多真实缺陷,仍要有人接住
  • FlashProve:回答来自哪组权重,开始有了可检查的证明
  • 权重实验的新证据:笔记本复现了三种小游戏识别,也暴露了外推边界
  • Prime Intellect 审查公开评测:涨分可能来自工具和判分器的修正

关系图谱

反向链接

  • 从真实轨迹解释系统为何过载后难以恢复
  • GRPO 实践:读懂训练曲线,再排查不稳定
  • 设计 Agent 评测时,先说清自己在测谁
  • 浏览器 Agent 为什么越跑越贵:从缓存命中查起
  • 为代码审查写一个能失败的评测
  • 给一次修复补齐前后版本证据
  • 把自己的失败与修正做成 Agent 评测
  • 用一份多页记录练习“局部没看见”与“全局缺失”的区别
  • 把五选一概率和正确率分开测
  • 从真实失败开始,为 Agent 写一组有效评测(旧文)
  • 用一个小世界模型学习:为何预测准确仍会被策略钻空子
  • 保留失败运行,再修正错误的 ground truth(旧文)
  • 用 llm-echo 看清请求和工具回合究竟传了什么
  • 让一次抓包只回答一个问题:hw-harness 方法文档
  • 用一个文件读回测试检查模型的状态记忆
  • 从答案验证器开始,学习推理模型的训练与评测
  • 沿一条审查意见追踪:发现、复现、修补、回归
  • Frank Calegari:数学研究还需要选择问题、理解结果
  • 一份大模型求职复盘:准备清单怎样碰到真实追问
  • 一次内部监控红队调查:覆盖率的分母从哪里来
  • AgentSWE:从演示样例到冻结交付,还隔着一组保留测试
  • 时钟生成了曲线种子,仍有候选跳过的原因未明
  • Prime Intellect 审查公开评测:涨分可能来自工具和判分器的修正
  • Piotr Sarnacki 重测聊天应用改写:送达率上升,也可能只是排队更久
  • MiniCPM-OCR 把“读出文字”和“判断读得对不对”拆开
  • Lambert 修正了“没问题”这个说法,仍支持开放模型
  • MICA:能力相同,MCP 与命令行仍会改变 Agent 的选择
  • 分布式生物推理:把扰动数据变成可追问的线索
  • 给 Agent 加记忆之前,先留下全文搜索这条基线
  • HarnessAdapt-RL:训练会改模型,也要重调工具
  • 同一台 4B 模型的 50 次运行:失败常在编辑接口
  • DeRef:先不看候选,替工具参数裁判补一份参考
  • Mason Mosen:改 prompt 后,先回放同一批旧失败
  • 检索到“红富士手机”:先加 Reranker,还是先收窄知识库?
  • Nathan Lambert:模型忙着回避灰区时,可能漏掉用户真正的问题
  • Agent 做不到时,能不能停下来?
  • Atlassian 调查:写得更快,可以与更多协作摩擦同时发生
  • Kimi K3.1 Pro 的外部成绩上升,权重仍要等到 11 月
  • MASS:从团队轨迹训练模型,收益先出现在研究任务上
  • 让模型评“有没有新意”,先检查它到底在回答哪个问题
  • Gemini Carbon 引发试用兴趣,评测细节却要求重新拆开“更强”
  • 直接改 0.016% 权重:先修复小模型的重复推理
  • 让 Agent 学会接棒:MPT 的启发与被放大的结论
  • Interlock:把“改了这里,还必须改哪里”写进训练任务
  • HANS_DEV 的客服检索经验:先确认知识库该管什么
  • Ben Congdon:让模型写监控方案,再由固定程序执行
  • PHP 修复复盘:发现漏洞之后,还要解决兼容性与决策
  • OmniVerifier-C1 把图像要求拆开计分;规则任务再提供参考终态
  • Memdoor 的 49/50:经理也可能把正确答案改错
  • Anthropic:小模型能搭起推理,完整自主复制仍有缺口
  • Dan Luu 想做更大的项目,Yossi Kreinin 追问谁能判断做对了
  • Sphinx 要你解释改动,也暴露了出题者会判错
  • BranchOPD:在有信息的分叉处采样,生成费用与总成本分开看
  • Anthropic 与 Theorem:把模糊测试入口变成可检查的证明
  • Trail of Bits 把“修好了”拆成可重放的证据
  • 审查机器人也要会停:Claude Code 团队把误报和循环轮数纳入评估
  • Michael Lynch:编程助手为什么还让人费心
  • 读对事实,仍选错动作:System One 模型的配对诊断
  • 不理解每一行 AI 代码,谁来承担发布责任
  • FLORA 把机器人视频变成可用标签:做了什么,与做得怎样分开
  • Niko Matsakis:类型系统能拦错,设计意图仍要说清
  • 只看 AI 标红的代码,怎样知道它漏了什么
  • Harness²:从任务中的执行差异,改进下一次运行框架
  • 把代码审查意见带进沙箱,仍要再检查补丁
  • 权重实验的新证据:笔记本复现了三种小游戏识别,也暴露了外推边界
  • Mac 流式推理:页对齐与同步等待,怎样拖慢首 token
  • Thomas Hales:通过 Lean 检查之后,还需要相信什么?
  • Mollick 推荐组织能力视角:更聪明的个体,还要能一起做事
  • Mollick:知道何时能介入,也是助手的能力
  • DeepSeek 1017 的便宜,要放回同一组任务里看
  • DAYJOB Tax:文件给齐了,模型仍可能漏掉没有被点明的问题
  • 15 个 AI 助手的讨论:交接建议之外,读者还想看到产出
  • Claude 重设计量子电路:少存历史,也显式使用失败预算
  • EmbeddingGemma 转写实验:用共享向量空间读出语音
  • Lean 把“再检查一次”做进工具链
  • TerminalHorizon:重建训练环境,把被预先做掉的工作还给 Agent
  • 一个普通用户的评测困惑:会做一次,还是稳定做对?
  • 推理快了、总分近似不变,就能说质量不变吗?
  • 代码多了三成,交付为何没有同比增加?
  • 发现评测缺陷之后,还要追问它改变了什么
  • 扫描仪驱动从停滞到可对照:Schaller 的硬件逆向实践
  • Epoch 把日常工作交给六个模型:会做步骤,仍可能误判研究结果
  • Cloudflare 把漏洞扫描拆成持续任务,保留每次检查的证据
  • MetaKernelBench:存下来的经验,也可能让下次优化退步
  • Figma 的专用模型,学的是怎样改好已有设计
  • 科研 Agent 跑了许多实验,结果真的算创新吗?
  • AlphaNIST:二元奖励学会装配,结果仍限于仿真
  • Karpathy:为什么不同人看到的 LLM 能力差这么多
  • PostgreSQL 的延期:更多真实缺陷,仍要有人接住
  • 语音代理会要求再说一遍,为什么仍记错名字?
  • 专家也会顺着 Agent 的倾向做判断:一项有意设置偏好的实验
  • PreciseCoder 给必要修改计分,也检查正确代码会不会被改坏
  • Huntley 用提交钩子约束诊断接口,也要求重测提示词包
  • Agent 成本优化:先看看缓存有没有被自己破坏
  • StopLoss:小模型决定何时停下,账单必须算入误停
  • Huahai 回应 Rich Hickey:使用 AI 时,人是否还在作判断?
  • tinyworldformer:小模型能运行游戏,也会给玩家留下漏洞
  • SWE-TaskFlow:同一个补丁,换成交互流程就可能更贵
  • AI 接走基础工作以后,新人从哪里学会判断?
  • “十分钟 AI”研究:撤走辅助后测了什么,没测什么
  • Nick Cammarata 重审多义神经元:先检验原生机制的解释
  • ARC Prize 的 Argon 结果:同模型,两种执行层与不完整运行
  • AA v5 更换了考题,也让“总分代表什么”重新成为问题
  • SAE 重建表现接近,学到的特征仍可能对不上
  • 微软先造一家公司,再让 Copilot 回答它的问题
  • 删掉16.8万行注释后的两项试验:单次运行能得出相反故事
  • Kapa 追踪检索丢失:答案需要的材料,可能已找到却没送进上下文
  • IBM 的开放模型芯片探索:推理费少了,最优设计也不同
  • Simon 的 SPARQL 扩展尝试:验证循环也会大量消耗 token
  • 游戏能运行,不代表反编译正确:一份三个月的 Agent 实践
  • FlashProve:回答来自哪组权重,开始有了可检查的证明
  • Simantic:让固件 Agent 在虚拟开发板上运行测试
  • 昇腾 310P 上的本地 MoE 调试:先找数值参照,再优化内核
  • Vapi:让审查机器人证明问题,也把误报算进成本
  • Laminar flow-1:沿轨迹追查隐性错误,也暴露“没有轨迹”的盲点
  • Enveda 审查生产记录:把“找问题”变成可逐项核对的意见
  • 数学社区开始整理 AI 证明稿,也在争论这份劳动该由谁承担
  • Cortex:规则要被读到,收益也要经得起重复运行
  • Jepsen 检查 ParticleDB:测试通过之前,先确认它会失败
  • SlopCodeBench:新功能通过,旧行为却未必保住
  • 两份本地模型应用都通过测试,却都没保住数据含义
  • KillSwitch:故意为难模型的语言,究竟测到了什么
  • Muse Wonder:模型进步,要连同推理强度和执行器一起比较
  • Cohere 公开 Qwen 异常调用轨迹:行为可查,成因仍未定
  • 多 Agent 写代码,怎样把验证放进流程
  • 回访更正:Anthropic 收窄了“绕过工具限制”的含义
  • WorldTUI:208 MB 的终端模拟器,暴露了局部准确率看不到的记忆
  • AISI 重放越界行为:说得出有害,仍可能继续行动
  • Meta 把流程固定下来,把领域判断交给专门 Agent
  • 生成一次小应用,框架成本差在哪里
  • 技术主题

Created with Quartz v4.5.2 © 2026

  • 日报日历
  • 最新日报