Claude 为 123 个开源库生成形式化证明，顺带找出数百个 bug
axorogaming · reddit · 2026-10-25
Anthropic 发布研究：用 Claude 对 123 个开源库的软件性质生成形式化证明（formal proofs），过程中还发现了数百个 bug，其中部分在证明完成前就已被修复。
帖主指出关键区别：这是 AI 对已有软件做数学化验证，而非生成代码。并抛出讨论问题：
- AI 辅助形式化验证会成为软件开发的标准环节吗？
- 若有独立证明检查器背书，你会信任 AI 生成的证明吗？
- 这套方法能否捕获常规测试与 fuzzing 漏掉的 bug？
- LLM 做软件验证的最大局限在哪？
所属事件:Anthropic 用 Claude 为百余个开源库生成形式化证明并发现数百 bug(2 条相关)→
「安全」频道最新
- CNN 指出 AI 正暴露互联网脆弱性，附用户自保建议 — cnn · 2026-10-26
- IIT 马德拉斯办 AI 治理峰会,400 余人共议负责任 AI — ravi_iitm · 2026-10-26
- 「CIA 默默看着大家忙着修补安全漏洞」引热转 — tekbog · 2026-10-26
- 网友推演前沿模型权重被蠕虫篡改的安全噩梦 — teortaxesTex · 2026-10-26
- Context Bombs 研究诱饵防御:攻击 agent 成本暴增 23 倍 — tracebit · 2026-10-26
- 恶意 AGENTS.md 文件藏身下载文件夹，可劫持 AI 编码代理 — VectorWireAI · 2026-10-26