Nathan Lambert · Interconnects · 阅读原文

原始来源:Nathan Lambert · Interconnects

原始来源:Aiden Ament 等 · Epoch AI

Nathan Lambert 回看自己此前对开放模型网络风险的乐观措辞。他仍倾向把当前变化理解为风险加速,而不是某个模型发布后突然进入完全不同的世界;但承认“没问题”会低估产业被迫升级软件防护所需的钱、人和动荡,也承认自己不是网络安全专家。

他的论点包含两个层次。技术上,找到漏洞、形成可用攻击、让目标接触攻击入口,以及攻击者有动机实施,并不是同一件事。生态上,他希望开放模型也让防守方获得能力,避免少数公司同时掌握软件生成与修复工具。后一个论点是他支持开放生态的理由,尚不是开放权重带来净安全收益的实证结论。

他引用 Epoch 的 Firefox 实验作为需要认真对待的新证据,又不愿把近期所有安全事故都归给开放模型。原文保留了明显的不安和不确定性:他修正的是对冲击的描述,尚未放弃对长期能力扩散的期待。

可信度 65 · 重要性 84 · 新颖度 84

技术与主题

评测与基准 · 基础模型 · Open-Weight Models · Cyber Capability Evaluation

Nathan Lambert

观点原文

作者回顾自己先前对开放模型风险的判断。

忠实转述(非原句):Lambert承认“fine”没有充分传达强制产业升级会带来的成本和艰难。他仍希望开放模型帮助防守方,但把这个看法保留为有较大不确定性的判断,而不是已经证实的平衡。

编辑评读

这篇自我修正的价值,在于保留了“我支持什么”与“我已经知道什么”的区别。支持更多人获得防守能力,是一种可以明确表达的目标;它是否抵消攻击能力扩散,需要观察双方采用、修复和实际损害,不能由开放原则本身推出。把这种区分讲清楚,比要求作者简单改口为支持或反对更有用。

Epoch的原始研究确实把证据推进到受控环境中的文件读取,并非只报告发现疑似漏洞;同时它限制了模型网络访问、提供当时已公开的资料,且成功依赖后来已修复的另一项漏洞。研究也明确不判断开放权重对攻防平衡的净影响。因此,既不宜把它缩成“只是找到漏洞”,也不能把实验能力直接等同于已发生的大规模损害。

对读者而言,判断应沿两条线继续:一条看能力是否更容易被使用,另一条看修复是否真正送达用户。即便没有灾难性跃迁,持续缩短的应对时间也会改变维护团队的工作。这里提出的是跟踪问题,本文没有测量现实攻击率,也没有把尚未证实的事故归因作为结论。

核查依据

所属事件

收录记录