Anthropic 推出开源 FlashProve,用密码学证明 AI 输出出自哪个模型
thione · x · 2026-11-10
Anthropic 与高校研究者发布开源系统 FlashProve,实现所谓「可证明推理」:通过密码学证明(数学保证)确认某条输出确实来自特定模型,类似邮件的加密签名。
- 可抵御冒充者把一个模型伪装成另一个模型,即使冒充者是运营模型的实验室本身
- 可防止 AI 公司为省钱偷偷换用更便宜的模型,或为刷成绩偷偷换用更贵的模型
- 目前为开源项目,尚无部署计划
「安全」频道最新
- YC F26 公司 0.security 曾发现 30+ Linux 内核 0-day 与 500+ CVE — ycombinator · 2026-11-10
- Cloudflare 研究抗量子 Privacy Pass：伪造令牌或让 bot 绕过限流与校验 — shashib · 2026-11-10
- xAI 七款 Grok API 模型默认加隐形水印，11 月 7 日起生效 — thione · 2026-11-10
- CrowdStrike 推出 Falcon Guardian AI 急停开关，可网关处拦截失控智能体 — thione · 2026-11-10
- OpenAI 向获批准的安全团队开放 GPT-6 Cyber,扩展漏洞利用能力 — thione · 2026-11-10
- Cursor 披露遭篡改的 Claude Code 扩展:试图植入持久化 SSH 后门 — thione · 2026-11-10