Artificial Analysis 的 v5 智能指数把知识工作、编程、科学和通用能力各设为四分之一权重,并引入更难的任务;约六成测试内容不公开。榜单变化因此既包含模型差别,也包含测量目标的改变。Lambert 借这次更新讨论评测者的困境:公开题目容易被针对性优化,保密又减少了外部发现错误与理解评分的机会。
他没有把开源模型排名下滑等同于开源路线失败。前沿科学任务与日常应用需求不同;低成本推理、拥有权重和可自行部署仍有价值。他认可商业评测追踪前沿的速度,同时关心资金、信任与透明度,倾向让不同类型机构提供互补评价。这些是他的分析与判断,不能写成已经证实榜单操纵。
时间也需要校正:v5 初始说明中的领先者已不是最后信息。Google 在 10 月 28 日公布 Gemini 4 Carbon,报告 AA v5 得分 59,并说明先向部分网络防御伙伴开放,公众产品接入尚待后续。这里用它说明榜单会快速变化,不把一个排名视为普遍可用性。AA 自身还报告评测生成 token 中位数由约 3.5 万增至 5.9 万;更高能力的比较同时带来更高运行成本。