Anthropic于2026年11月2日发布研究文章,介绍开源原型FlashProve,试图解决用户无法确认云端响应究竟由哪个模型、哪组权重生成的问题。该方案使用零知识简洁非交互式论证(zkSNARK)为推理结果附加密码学证明,验证者无需获得模型权重,也不必完整重新运行模型,即可检查输出是否来自预先承诺的模型权重。Anthropic原始研究文章
按照Anthropic公布的测试结果,FlashProve在经过4比特量化的Llama 4 Maverick混合专家模型上运行;该模型约有4000亿参数,单个H100 GPU可生成约每秒110个token的证明,每个1024 token请求对应的证明文件约19 MB,验证过程可在CPU上完成。Anthropic同时强调,证明生成成本仍明显高于普通推理,测试中约为使用vLLM运行相同提示所需GPU时间的70至95倍,因此这还不是可以直接普及的低成本服务方案。
其潜在用途包括验证第三方路由服务是否确实调用了约定模型、检测推理服务器是否被篡改,以及为审计、合规或模型服务质量声明提供可核验凭证。与依赖可信执行环境的硬件证明不同,FlashProve主要依靠密码学假设;它可以隐藏模型权重,但并不隐藏模型架构。Anthropic称已同步公开技术报告、协议说明、可执行代码和Lean形式化证明,不过这些材料属于研究原型,安全性、证明生成开销、文件传输成本及大规模并发下的实际表现仍需要独立复现和评估。
这项进展的意义不在于立即改变模型服务架构,而在于把“相信服务商确实使用了某个模型”的问题,转化为可以由客户端或审计方独立检查的密码学验证问题。后续应重点观察证明生成成本是否下降、证明是否能适配更广泛的模型与硬件,以及服务商是否愿意把此类证明纳入商业API。当前信息主要来自Anthropic自发布的研究材料,性能和应用前景尚未由独立机构确认。
参考来源:
由 AI 整理,仅供参考;请以原始来源为准。
帖子详情