给 AI 输出盖"数字指纹":Anthropic 研发 FlashProve 让换模型无处遁形Anthropic正开发开源验证系统FlashProve,旨在解决用户收到的AI回答是否真由所宣称模型生成的问题。公司周二博客称,其“可证明推理”将用密码学为每条输出提供数学保证,确认出自指定模型,类似加密邮件签名验证发件人。该系统可防止甲模型伪装成乙模型,堵住成本作弊暗门,并揭穿“注水”成绩单,直击行业长期潜规则。 刚刚 0
Anthropic 正在开发名为 FlashProve 的开源验证系统,利用密码学技术为 AI 模型的输出提供数学证明,确保其来源真实可靠,防止模型被冒名顶替。该系统通过公开模型指纹实现本地验证,不泄露模型权重,支持闭源模型的可信性核验,有助于杜绝成本作弊和虚假宣传,目前已开放技术规范与可运行代码。


