原始来源:François Chollet · X(x.com)
获取渠道:FxEmbed(第三方)
François Chollet 用科学研究作类比,质疑“系统能自我改进,所以产出必然爆炸式增长”这一推论。他的理由是,科学发现本来就能改进实验工具、概念和计算能力,也能吸引更多研究资源;但后续问题可能越来越难,新增成果的影响也可能变小。因此,投入与能力形成正反馈,并不能单独决定最终增长速度。他接受 AI 自我改进正在发生,却不接受由此直接推出智能爆炸。这是关于推理链条的观点,文章援引的历史判断本期未作独立核查。
可信度 65 · 重要性 58 · 新颖度 57
技术与主题
Agent 系统 · 基础模型 · Recursive Self-improvement · Scaling
François Chollet
经 FxEmbed 得到的长帖;只保留有限的忠实转述,全文请看原帖。
忠实转述(非原句):他的起点是:科学发现能改进实验工具、概念和算力,还能带来更多研究资源,因此科学本来就会自我改进。接下来他强调,后续问题可能更难或影响更小,所以投入增加与产出增加不能画等号。他相信 AI 自我改进正在发生,但不接受它必然推出‘智能爆炸’。
编辑评读
“能改进自己”还缺少一个量:每轮改进能让下一轮多做成多少事。如果实验越来越难,验证越来越贵,反馈回路仍然存在,增长却可能慢下来。Chollet 对这一推论的质疑成立,不需要先接受他对科学史的全部判断。
不过,反过来也不能用人类科学的经历直接预测 AI。复制模型、并行实验和部署软件,与培养研究者或改造机构的成本不同。要继续讨论速度,至少需要看到连续几轮改进中的实验耗时、有效发现和验证开销。只证明某个环节可以自动化,还没有把整个增长过程测出来。
需要留意
- 关于科学长期产出是否线性的判断存在度量争议;本期没有核查他引用的历史数据与文献。