Simon Willison；Matthew Honnibal；MIT CSAIL · 阅读原文
昨天介绍的 Weight-Space Programming 把几类工作放在一起：读出小网络学过什么、手工构造或修补网络，以及借助 Python 修改语言模型。本期新增的是 Simon Willison 的独立尝试和对实验条件的批评，而非把原来的数学分数再次当作新进展。
Simon 取用作者公开的小游戏网络权重与同样的提示，在自己的笔记本上运行 Qwen 3.8 27B。这里的输入是约1.7万个浮点权重及网络结构，任务是判断网络受训于哪种游戏；提示描述输入通道与动作，但没有列出游戏名称供选择。他报告认出了 PacMan、Pong 和 Breakout，却把 Freeway 错判成 PacMan。单次成功尝试需要约46至65分钟，默认8192上下文不够，必须扩展窗口并延长超时。三次正确、一处失败说明这项狭窄能力值得复查，但样本太少，不能当作稳定正确率。
Matthew Honnibal 则指出，原报告中的直接读浮点数、调用工具分析参数和带反馈编辑权重，不是同一个实验条件。Qwen 数学改善尤其涉及工具与反馈，并与解除重复推理故障有关。Simon 的复现增加了“小网络原始权重可以被其他模型分析”的证据，没有复现语言模型权重修补，更没有证明模型已普遍理解大型网络。
可信度 65 · 重要性 78 · 新颖度 74
技术与主题
Matthew Honnibal
阅读全文；对原报告不同实验条件的文本分析，并非自己复跑全部实验。
忠实转述（非原句）：他认为读者容易把几种不同做法拼成一种统一能力：有的实验只给小网络浮点数，有的允许写代码、调用工具和观察结果。把后者理解为自动化了一部分机器学习工程师的工作，依然令人兴奋；问题在于标题带来的印象可能超出各个实验真正展示的范围。
Neko Itosu · @WHMaoXian
For You公开原帖；此处保留其对Qwen修补的评论，原帖另谈Claude小型算法网络，未混作同一实验。
忠实转述（非原句）：他反对把少量参数修改后的数学涨分直接讲成递归自我改进：Qwen 原本有严重重复推理，修补使已有能力更容易发挥。他仍认为权重编程有研究前景，只是不接受据此推导出可以替代梯度下降。
Haoyu · @cjantwhy
回应原帖：Neko Itosu
回复Neko的同一讨论；提出更有说服力的后续实验标准，不是报告已经完成的新测试。
忠实转述（非原句）：他补充说，原作者对 Gemma 的数学改善并不明显，而 Qwen 的相关问题在模型卡里已有说明。如果大模型能在研究者指定的领域，找到此前没有明确标出的潜在问题，并通过参数修改改善它，证据会更有说服力。
编辑评读
这次本地尝试让权重分析的一项具体能力可以被单独讨论。独立作者在本地较小模型上得到三个正确判断，削弱了“只能由少数最强闭源模型完成”的笼统说法；但复现的是固定结构的四个游戏网络识别，不能顺带给参数编辑和通用自我改进背书。把三个主张分别列出，反而更容易看出新能力确实落在哪里。
这种任务中，权重并不是完全没有结构的数字。网络的输入通道、空间位置和输出动作都已知，参数之间的模式可以与游戏中的空间特征对应。能利用这些线索仍然有意思：它让模型参与模型诊断成为可以尝试的方法。接下来应查的是，当游戏种类、结构或初始化改变时，判断还能不能成立，而不是只换一个更响亮的“理解”标签。
中文讨论提出了另一条值得保留的验证方向：从已知故障修复走向未知问题发现。让强模型在指定领域诊断一个没有预先公布缺陷的小模型，再与等预算的工具搜索或人工诊断比较，能更直接地区分发现能力与已知修复方案的应用。这是后续建议，本期没有执行。对现有结果的合理态度，是保留这一方法的潜力，同时把昂贵的推理时间、失败案例和反馈条件写进能力描述。
核查依据
- 核对本条方法、条件或署名评价；材料性质见正文与研究审核。
- 核对本条方法、条件或署名评价；材料性质见正文与研究审核。
- 核对本条方法、条件或署名评价；材料性质见正文与研究审核。
- 核对本条方法、条件或署名评价；材料性质见正文与研究审核。
- 核对本条方法、条件或署名评价；材料性质见正文与研究审核。