Nathan Lambert · Interconnects · 阅读原文
原始来源:Nathan Lambert · Interconnects(www.interconnects.ai)
Nathan Lambert 在公开前文中,把 AI 工程进展与通用超级智能分开讨论。他认为训练、推理等工程环节中有不少容易验证的目标,适合让 Agent 反复尝试优化;一些质量不佳的强化学习环境也有明确的改进空间。随着执行研究的成本下降,好想法可能相对更重要。不过,工程工作变快,并不自动说明模型的性质已经根本改变,也不需要先接受“智能爆炸”才能认可这些收益。本期取得的是付费文章的公开部分,下文仅对应这部分论述。
可信度 65 · 重要性 69 · 新颖度 66
技术与主题
Agent 系统 · 系统与效率 · 训练与对齐 · RL · Training Systems · Inference Optimization · AI for Science
Nathan Lambert
付费文章的公开前文;以下保留条件和论证方向,非全文翻译。
忠实转述(非原句):他认为,训练与推理栈里很多目标容易验证,因而适合交给 Agent 优化。工程瓶颈减轻后,好想法可能相对更重要。他并不要求读者先相信智能爆炸,才承认这些效率改进会发生;但执行研究更容易,也不意味着模型的性质已根本改变。
编辑评读
实验变便宜之后,好想法会不会更值钱,取决于便宜下来的实验被用来做什么。如果只是把原来的参数试得更密,选题上的优势可能更重要;如果能更快排除错误解释,研究者形成好问题的过程也会改变。不能把“想法”和“执行”当作始终分开的两份工作。
一个值得跟踪的区别是:新增实验有没有改变研究者原先的判断。只有同一指标上的小幅上涨,与发现某个原先相信的机制并不起作用,对后续研究的帮助不同。Lambert 的公开前文提供了讨论这个区别的起点,还不能回答哪种情况会占主导。
需要留意
- 属于预测与作者判断;公开部分不足以审查全文;环境质量批评不等于经过代表性抽样。