Anthropic 发布可验证推理系统 FlashProve

摘要

Anthropic 发表了关于可验证推理的研究成果，利用密码学证明来确认 AI 回答确实来自承诺的模型。核心系统 FlashProve 基于 zkSNARK 构建，执行代码与形式化验证材料以 Apache 2.0 许可证开源。据该公司介绍，单张 H100 GPU 可以每秒约 110 个 token 的速度为 400B 规模模型生成推理证明，比以往开源系统快数十倍。

与我们工作的关联

如果第三方能够核验答案出自哪个模型，评估、审计与合规场景中信任智能体产出的基础将随之改变。该公司也明确说明这是阶段性研究成果，实际应用仍需更多时间。

本文译自韩文原文。 摘要可能经过翻译和编辑。评论是我们的解读，未来预测代表来源的观点。