François Chollet · X · 阅读原文

原始来源:François Chollet · X(x.com)

获取渠道:FxEmbed(第三方)

François Chollet 用科学研究作类比,质疑“系统能自我改进,所以产出必然爆炸式增长”这一推论。他的理由是,科学发现本来就能改进实验工具、概念和计算能力,也能吸引更多研究资源;但后续问题可能越来越难,新增成果的影响也可能变小。因此,投入与能力形成正反馈,并不能单独决定最终增长速度。他接受 AI 自我改进正在发生,却不接受由此直接推出智能爆炸。这是关于推理链条的观点,文章援引的历史判断本期未作独立核查。

可信度 65 · 重要性 58 · 新颖度 57

技术与主题

Agent 系统 · 基础模型 · Recursive Self-improvement · Scaling

François Chollet

观点原文

经 FxEmbed 得到的长帖;只保留有限的忠实转述,全文请看原帖。

忠实转述(非原句):他的起点是:科学发现能改进实验工具、概念和算力,还能带来更多研究资源,因此科学本来就会自我改进。接下来他强调,后续问题可能更难或影响更小,所以投入增加与产出增加不能画等号。他相信 AI 自我改进正在发生,但不接受它必然推出‘智能爆炸’。

编辑评读

“能改进自己”还缺少一个量:每轮改进能让下一轮多做成多少事。如果实验越来越难,验证越来越贵,反馈回路仍然存在,增长却可能慢下来。Chollet 对这一推论的质疑成立,不需要先接受他对科学史的全部判断。

不过,反过来也不能用人类科学的经历直接预测 AI。复制模型、并行实验和部署软件,与培养研究者或改造机构的成本不同。要继续讨论速度,至少需要看到连续几轮改进中的实验耗时、有效发现和验证开销。只证明某个环节可以自动化,还没有把整个增长过程测出来。

需要留意

  • 关于科学长期产出是否线性的判断存在度量争议;本期没有核查他引用的历史数据与文献。

核查依据

所属事件

收录记录