- 浏览器 Agent 为什么越跑越贵:从缓存命中查起
- GRPO 实践:读懂训练曲线,再排查不稳定
- 从真实失败开始,为 Agent 写一组有效评测(旧文)
- 为代码审查写一个能失败的评测
- 保留失败运行,再修正错误的 ground truth(旧文)
- 把五选一概率和正确率分开测
- 让一次抓包只回答一个问题:hw-harness 方法文档
- 把自己的失败与修正做成 Agent 评测
- 用 llm-echo 看清请求和工具回合究竟传了什么
- 设计 Agent 评测时,先说清自己在测谁
- 给一次修复补齐前后版本证据
- 用一个文件读回测试检查模型的状态记忆
- 从真实轨迹解释系统为何过载后难以恢复
- 从答案验证器开始,学习推理模型的训练与评测
- 用一份多页记录练习“局部没看见”与“全局缺失”的区别
- 用一个小世界模型学习:为何预测准确仍会被策略钻空子
- 沿一条审查意见追踪:发现、复现、修补、回归
- 科研 Agent 跑了许多实验,结果真的算创新吗?
- Agent 做不到时,能不能停下来?
- Agent 成本优化:先看看缓存有没有被自己破坏
- Michael Lynch:编程助手为什么还让人费心
- 多 Agent 写代码,怎样把验证放进流程
- Thomas Hales:通过 Lean 检查之后,还需要相信什么?
- 一个普通用户的评测困惑:会做一次,还是稳定做对?
- 游戏能运行,不代表反编译正确:一份三个月的 Agent 实践
- MASS:从团队轨迹训练模型,收益先出现在研究任务上
- Mac 流式推理:页对齐与同步等待,怎样拖慢首 token
- Karpathy:为什么不同人看到的 LLM 能力差这么多
- “十分钟 AI”研究:撤走辅助后测了什么,没测什么
- 昇腾 310P 上的本地 MoE 调试:先找数值参照,再优化内核
- 检索到“红富士手机”:先加 Reranker,还是先收窄知识库?
- AI 接走基础工作以后,新人从哪里学会判断?
- 代码多了三成,交付为何没有同比增加?
- Vapi:让审查机器人证明问题,也把误报算进成本
- SWE-TaskFlow:同一个补丁,换成交互流程就可能更贵
- Muse Wonder:模型进步,要连同推理强度和执行器一起比较
- Anthropic:小模型能搭起推理,完整自主复制仍有缺口
- Huahai 回应 Rich Hickey:使用 AI 时,人是否还在作判断?
- MetaKernelBench:存下来的经验,也可能让下次优化退步
- HANS_DEV 的客服检索经验:先确认知识库该管什么
- AgentSWE:从演示样例到冻结交付,还隔着一组保留测试
- TerminalHorizon:重建训练环境,把被预先做掉的工作还给 Agent
- BranchOPD:在有信息的分叉处采样,生成费用与总成本分开看
- AlphaNIST:二元奖励学会装配,结果仍限于仿真
- IBM 的开放模型芯片探索:推理费少了,最优设计也不同
- Huntley 用提交钩子约束诊断接口,也要求重测提示词包
- 读对事实,仍选错动作:System One 模型的配对诊断
- DeRef:先不看候选,替工具参数裁判补一份参考
- 两份本地模型应用都通过测试,却都没保住数据含义
- Niko Matsakis:类型系统能拦错,设计意图仍要说清
- 删掉16.8万行注释后的两项试验:单次运行能得出相反故事
- 扫描仪驱动从停滞到可对照:Schaller 的硬件逆向实践
- Cortex:规则要被读到,收益也要经得起重复运行
- PreciseCoder 给必要修改计分,也检查正确代码会不会被改坏
- Nick Cammarata 重审多义神经元:先检验原生机制的解释
- Simon 的 SPARQL 扩展尝试:验证循环也会大量消耗 token
- Mason Mosen:改 prompt 后,先回放同一批旧失败
- ARC Prize 的 Argon 结果:同模型,两种执行层与不完整运行
- 时钟生成了曲线种子,仍有候选跳过的原因未明
- Claude 重设计量子电路:少存历史,也显式使用失败预算
- OmniVerifier-C1 把图像要求拆开计分;规则任务再提供参考终态
- SAE 重建表现接近,学到的特征仍可能对不上
- 审查机器人也要会停:Claude Code 团队把误报和循环轮数纳入评估
- Piotr Sarnacki 重测聊天应用改写:送达率上升,也可能只是排队更久
- DeepSeek 1017 的便宜,要放回同一组任务里看
- Lean 把“再检查一次”做进工具链
- Sphinx 要你解释改动,也暴露了出题者会判错
- 让 Agent 学会接棒:MPT 的启发与被放大的结论
- 回访更正:Anthropic 收窄了“绕过工具限制”的含义
- EmbeddingGemma 转写实验:用共享向量空间读出语音
- KillSwitch:故意为难模型的语言,究竟测到了什么
- Harness²:从任务中的执行差异,改进下一次运行框架
- Meta 把流程固定下来,把领域判断交给专门 Agent
- Laminar flow-1:沿轨迹追查隐性错误,也暴露“没有轨迹”的盲点
- Interlock:把“改了这里,还必须改哪里”写进训练任务
- Ben Congdon:让模型写监控方案,再由固定程序执行
- 不理解每一行 AI 代码,谁来承担发布责任
- StopLoss:小模型决定何时停下,账单必须算入误停
- SlopCodeBench:新功能通过,旧行为却未必保住
- 给 Agent 加记忆之前,先留下全文搜索这条基线
- PHP 修复复盘:发现漏洞之后,还要解决兼容性与决策
- Trail of Bits 把“修好了”拆成可重放的证据
- HarnessAdapt-RL:训练会改模型,也要重调工具
- 同一台 4B 模型的 50 次运行:失败常在编辑接口
- 分布式生物推理:把扰动数据变成可追问的线索
- 语音代理会要求再说一遍,为什么仍记错名字?
- 一次内部监控红队调查:覆盖率的分母从哪里来
- Anthropic 与 Theorem:把模糊测试入口变成可检查的证明
- WorldTUI:208 MB 的终端模拟器,暴露了局部准确率看不到的记忆
- Kimi K3.1 Pro 的外部成绩上升,权重仍要等到 11 月
- AISI 重放越界行为:说得出有害,仍可能继续行动
- Cloudflare 把漏洞扫描拆成持续任务,保留每次检查的证据
- Dan Luu 想做更大的项目,Yossi Kreinin 追问谁能判断做对了
- 数学社区开始整理 AI 证明稿,也在争论这份劳动该由谁承担
- Atlassian 调查:写得更快,可以与更多协作摩擦同时发生
- 发现评测缺陷之后,还要追问它改变了什么
- 一份大模型求职复盘:准备清单怎样碰到真实追问
- Kapa 追踪检索丢失:答案需要的材料,可能已找到却没送进上下文
- Epoch 把日常工作交给六个模型:会做步骤,仍可能误判研究结果
- Cohere 公开 Qwen 异常调用轨迹:行为可查,成因仍未定
- 只看 AI 标红的代码,怎样知道它漏了什么
- FLORA 把机器人视频变成可用标签:做了什么,与做得怎样分开
- 专家也会顺着 Agent 的倾向做判断:一项有意设置偏好的实验
- 让模型评“有没有新意”,先检查它到底在回答哪个问题
- Enveda 审查生产记录:把“找问题”变成可逐项核对的意见
- MiniCPM-OCR 把“读出文字”和“判断读得对不对”拆开
- DAYJOB Tax:文件给齐了,模型仍可能漏掉没有被点明的问题
- AA v5 更换了考题,也让“总分代表什么”重新成为问题
- Simantic:让固件 Agent 在虚拟开发板上运行测试
- tinyworldformer:小模型能运行游戏,也会给玩家留下漏洞
- 15 个 AI 助手的讨论:交接建议之外,读者还想看到产出
- Gemini Carbon 引发试用兴趣,评测细节却要求重新拆开“更强”
- Nathan Lambert:模型忙着回避灰区时,可能漏掉用户真正的问题
- Mollick 推荐组织能力视角:更聪明的个体,还要能一起做事
- Figma 的专用模型,学的是怎样改好已有设计
- MICA:能力相同,MCP 与命令行仍会改变 Agent 的选择
- 微软先造一家公司,再让 Copilot 回答它的问题
- Lambert 修正了“没问题”这个说法,仍支持开放模型
- 推理快了、总分近似不变,就能说质量不变吗?
- 50:经理也可能把正确答案改错
- Mollick:知道何时能介入,也是助手的能力
- Jepsen 检查 ParticleDB:测试通过之前,先确认它会失败
- 把代码审查意见带进沙箱,仍要再检查补丁
- 生成一次小应用,框架成本差在哪里
- Frank Calegari:数学研究还需要选择问题、理解结果
- 直接改 0.016% 权重:先修复小模型的重复推理
- PostgreSQL 的延期:更多真实缺陷,仍要有人接住
- FlashProve:回答来自哪组权重,开始有了可检查的证明
- 权重实验的新证据:笔记本复现了三种小游戏识别,也暴露了外推边界
- Prime Intellect 审查公开评测:涨分可能来自工具和判分器的修正