持续追踪

FlashProve:回答来自哪组权重,开始有了可检查的证明

按时间保留当时的判断和后续核查;历史收录不代表刚刚重新验证。

2026-11-04 · 当时的记录

调用远程模型时,用户通常只能相信服务商报出的模型名称,无法查看实际用了哪组权重。Anthropic 的 FlashProve 尝试补上这一环:先为权重生成一份密码学承诺,相当于不可随意改换的指纹;服务端随后为指定输入和输出生成证明,验证者不必拿到权重,也不必配备 GPU,就能检查计算是否符合该承诺。它证明计算关系,并不证明答案内容正确。

研究原型把每次只激活部分子网络的混合专家模型 Llama 4 Maverick 的整数化计算分块处理,逐层把数据送入一张 H100 80GB,主机内存仍约需290GB。团队报告,24个请求、每个1024 token 窗口的一批证明耗时223秒,折合约110个预填充 token/秒(一次处理给定文本的速度);每份证明实际检查一个指定 token,不能读成每秒验证110个新生成 token 或完整回答。证明约18.78MB,CPU验证约需17秒(24线程)或21秒(单线程)。

库还区分两种接受条件:严格符合整数模型的贪心输出,以及在配置容差内接近该输出。后一种是为了容纳常见浮点推理与整数模型的差异。Lean 中的形式化安全论证与快速 C++ 验证器也不能混称:后者尚未证明与形式化实现完全等价。当前发布的是不承诺维护的研究原型。

回到当期正文 ↗

查看依据原文 · 原始依据 · 原始依据 · 原始依据