值得读评测与基准 / 基础模型 / 推理能力 / 训练与对齐
追踪记录 ↗
Rikiya Takehi 等 · MIT CSAIL研究进展11月2日原文;11月3日核对
技术权重编辑激活方向重复输出前向反馈
调整模型通常要准备训练数据,再用梯度更新参数。MIT CSAIL 团队尝试另一种路径:让强模型查看一个小模型的权重,借助 Python 分析其行为,再直接写入修改。他们称之为 Weight-Space Programming。实验从辨认小网络学过哪种游戏,到编写游戏策略、编辑语言模型;不同实验允许的工具和反馈并不相同。
最值得细读的是 Qwen3.5-0.8B 开启思考模式的数学实验。基线经常陷入重复思考,耗尽输出长度。编辑者获得练习题和受限的前向调用预算,即让目标模型运行并观察输出。它从两个前馈层的部分权重中移除与重复行为相关的方向。这些层负责对中间表示做非线性变换。修改涉及约13.1万个权重,占总量0.016%。在50次前向调用预算下,作者报告 MATH-500 从7.9%升至48.1%,触及 token 上限的比例从93.0%降至33.1%。
这里的“一次调用”可以包含一批样本,不能理解为总共只看了50道题;也不能把这项实验称作完全没有试错。较少调用预算的收益明显更小。后续换到较少重复的 Gemma 270M,50次预算下数学分数仅从6.8%到7.0%。结果展示了定位并修补特定失效的新能力,尚未证明这条路线可以普遍替代训练。
图片暂不可用,请查看来源。
原文 Qwen3.5-0.8B 结果表。最右列是触及输出 token 上限的比例;最后一行允许50次批量前向调用反馈,并非零反馈编辑。分数与超长输出同时变化,是理解增益来源的关键。Rikiya Takehi、Jayden Teoh、Alex Zhang、Omar Khattab;原文实验8结果表局部截图,用于评论该实验;未认定整页可自由再授权。 · 原文结果表 · 图片出处 ↗X 观点 Rikiya Takehi · 原帖 / 原文
语境:作者在公开原帖介绍实验;已追到博客和同团队日志。 · 读取时间:2026-11-03T00:22:47.071116+00:00
逐句忠实转述(非原文)Takehi 强调,他们要求 GPT-6 Astra 直接编辑 Qwen3.5-0.8B 的权重,修复重复推理;数学与指令遵循都随之改善。他把无需梯度的读取和写入视作新的操作方式。原帖中的倍数是这些基准结果的相对变化,不能脱离基线失效和实验反馈预算。
编辑评读
最有启发性的变化,是把模型暂时当成一个可以诊断的程序:先找它为什么不能完成已有任务,再对这个失效提出局部修改。对于反复输出直到预算耗尽的小模型,即使知识和推理资源没有显著增加,让答案有机会正常结束也可能大幅提高测得的通过率。因此,这个结果首先改变的是“模型必须重新训练才能修复行为”的判断。
但改动比例小,不等于影响范围小。一个方向可能同时参与其他任务,数学得分上升也不能自动保证原有行为不受损。要判断这是否超出故障修补,可以把重复型失败与正常结束但答错的失败分开,再检查未参与编辑的任务、不同采样参数和回归样本。若收益主要集中在第一类,就应把方法定位为故障修补;若第二类也稳定改善,才有更强的能力增长证据。这是建议的验证,本期没有执行。
依据 1 · 依据 2
值得读Agent 系统 / 系统与效率
追踪记录 ↗
Anthropic · 官方文章与 API 文档基础设施2026-11-02
技术消息线程首token延迟请求回放提示缓存
长时间运行的编程 Agent 每完成一次工具调用,往往就把此前的对话、工具结果和图片再发送一遍。历史越来越长,客户端上传、服务端校验和分词都会增加等待。Anthropic 将 message threads 开放公测:首轮发送完整会话,后续只发送新增消息与上一轮响应的 ID,由服务端接回已有对话。
官方称,Claude Code 中50万至100万 token 请求的首 token 等待时间中位数下降约35%。这是这一长度区间的等待指标,并非整个任务耗时下降35%。线程以加密形式暂存在内存,距上次请求5分钟后到期;应用仍须保存完整历史,在无法续接时重新创建线程。模型每轮看到的完整对话没有变,token 使用量也不因少上传而减少。
文档还区分了两种经常混淆的复用:线程保存消息,prompt caching 则需要另行设置缓存控制。前者不会自动打开后者。线程只能追加,每个响应 ID 只能继续一次;改系统提示、工具定义或旧消息,需要用完整历史开启新线程。这让活跃、连续的长会话更轻,却要求客户端从开始就设计好回放路径。
语境:9月30日针对Claude Code 2.1.282的公开使用报告;不是本次公测的独立性能测试。 · 读取时间:2026-11-03T00:22:47.071116+00:00
逐句忠实转述(非原文)作者用同任务、同仓库比较默认连接与透传代理,发现代理路径同时丢掉 dispatch 和 message threads,出现并行工具调用的会话从6/6变成1/7。单独恢复线程的4次测试仍没有并行调用。他要求合规网关能保留相同行为,也希望有明确的全历史请求选项。样本很小,两个特性互相影响,不能把差异全算给线程。
编辑评读
这项改动的价值来自把“重复搬运”和“模型计算”分开。假如一个Agent每轮只多一小段工具结果,却反复上传很长的旧历史,缩小请求确实能改善交互;如果主要时间花在工具执行或生成答案上,同样的接口变化对最终交付帮助可能很小。使用前先看时间分布,比把官方的35%直接代入总耗时更可靠。
线程过期或续接失败时,客户端还得把会话恢复出来。服务端线程只是暂存副本,应用保留的完整会话才负责跨进程恢复。可以在测试环境安排一次超过有效期的停顿,核对新线程是否恢复了相同消息,并分别记录正常续接与回放的等待。代理网关还应检查实际发送的字段,不能只看SDK方法名。下述旧版本问题报告说明集成路径可能改变行为,但它同时变动多个特性,无法证明线程单独决定并行工具调用。
依据 1 · 依据 2 · 依据 3
值得读Agent 系统 / AI 编程 / 系统与效率 / 基础模型
追踪记录 ↗
Aaron Friel、Taylor Blau、Ted Nyman · OpenAI基础设施2026-11-02
技术Git对象存储因果一致性packfile复用分支并发
很多 Agent 同时改代码,会产生大量分支、推送,以及持续集成(CI,即自动构建和测试流程)对同一版本的重复读取。OpenAI 的工程文章介绍 Pando:保持 Git 的使用方式,重做仓库服务端。它针对两个负担分别设计——不同分支写入不要争抢一个全仓库顺序,许多客户端读取相同历史时不要反复压缩同一批对象。
Git 的 packfile 是把文件和提交等对象压缩在一起的传输包。Pando 接收推送时,把包保存在对象存储,并在元数据中记录分支版本及其依赖。读取时选择已有包,通过区域缓存交给客户端。为了使包可复用,服务端会限制推送前向客户端宣告的共同历史;代价是某些分支会重复发送部分对象,而不是让每个读者都得到最小的定制包。
一致性承诺也随之改变:单个分支的更新有序,不同分支却不保证来自同一时刻的全局快照。官方报告生产环境推送延迟中位数下降近80%,但这依赖其单仓库负载与基础设施。文中的千客户端动画是解释设计取舍的合成模拟,不是生产测试,也没有计算构建和测试时间。
语境:作者解释为何不为每个读取请求生成最小包。 · 读取时间:2026-11-03T00:22:47.071116+00:00
逐句忠实转述(非原文)团队指出,多宣告一些分支,可以让写入者少上传对象,却让这个包依赖更多历史,难以直接交给其他读者。完全不宣告历史又会接近全量克隆。他们默认以主干为共同基础,在冗余传输与容易复用之间作取舍;这一选择来自自身单仓库的包大小分布。
编辑评读
Pando给出的可迁移方法,是先判断哪些东西真的必须一起改变。若两个Agent写不同分支,它们不必因为共享同一仓库而排队;若两名读者需要相同历史,服务器也不必为每人重新包装。这里可以分别测量协调等待和重复计算,定位到底是哪一种成本妨碍了并行。
代价必须跟着接口一起传递。一个同时读取多个分支的自动化,如果原本假设它们是同一时刻的整体状态,就需要重新检查这一假设。较大的重复包也意味着服务端CPU节省可能交换了客户端带宽。普通团队可以先统计分支间竞争、压缩计算与网络分别占多少,再决定是否需要这种后端;不能用一家公司近80%的改善推断所有仓库都值得重建。本文保留这一部署边界,尚未取得外部同负载测试。
依据 1
值得读Agent 系统 / AI 编程
追踪记录 ↗
Vercel Labs · agent-desktop工具与产品本期发现
技术可访问性树快照引用三态证据桌面自动化
桌面 Agent 需要先知道屏幕上有哪些可操作对象。agent-desktop 提供一套命令行接口,主要读取操作系统的可访问性树:应用向系统暴露的按钮、输入框、名称与状态等结构。它把这些信息交给模型,再用原生可访问性操作执行动作;截图可辅助观察,但不是唯一的定位依据。
工作流程是先取得界面快照(snapshot),拿到与这次快照绑定的元素引用,再点击、填写或向下查看局部子树。界面变化后要重新观察,过期或含糊的目标会返回结构化错误。这样,模型能依据“这个窗口中的这个控件”行动,而不只是猜一个屏幕坐标。默认的无前台输入方式不主动抢焦点或模拟鼠标键盘;需要更广泛输入时另行选择对应模式。
概念文档特别区分 Known、Absent、Unknown:确定知道、确认不存在、没有读到可靠答案。读状态失败不能被当作按钮确定未禁用。项目覆盖 macOS、Windows、Linux,但各平台依赖和支持动作有差异,应用本身也必须暴露有用的信息。README 与协议设计给出了可实施路径,尚不能据此宣称跨应用成功率优于视觉 Agent。
语境:项目协作者10月18日记录macOS应用退出期间的清单超时,问题已于10月31日关闭。 · 读取时间:2026-11-03T00:22:47.071116+00:00
逐句忠实转述(非原文)作者记录了应用正在退出时,进程内重复读取清单仍持续失败,而稍后新启动一次命令可以成功的现象;他提出运行循环未刷新旧记录的可能解释,并明确写成尚待确认的线索。这份记录展示了瞬时界面状态的工程难点,不能作为当前版本仍有该故障的证据。
编辑评读
这里最值得借鉴的是失败信息的设计。对自动化来说,“没有这个属性”和“现在没读到这个属性”可能需要完全不同的下一步。若二者都变成false,模型很容易把未知当作允许操作;保留Unknown,才可能让上层决定重试、缩小观察范围或改用其他信息。这个思想也可用于API探测和工具调用,不限于桌面。
另一个容易忽略的问题是身份随时间变化。系统可能把已关闭窗口的句柄交给新窗口,因此引用一个号码并不足以保证点中的还是原对象。项目文档把窗口身份与进程代次一起核对,这说明可靠控制不仅需要读懂当前界面,还需要处理观察与执行之间的变化。值得先选一个可回滚的小应用验证这些边界,再考虑更复杂流程;本期只阅读文档和问题记录,没有安装或操作该工具。
依据 1 · 依据 2 · 依据 3