Anthropic 用 Claude 数周内形式化验证上百个开源库
marcbhargava · x · 2026-10-23
Anthropic 在 Frontier Red Team 博客发布新研究：与 Theorem Labs 合作，用 Claude 在几周内对 100 多个真实开源库证明了安全属性。形式化验证（Formal Verification）过去只能用于小型代码库或耗费大量专家时间，AI 模型正在改变这一点。另外，axiomxyz 团队也表示正在构建 RL 环境，帮助 AI 模型在二进制层面做形式化验证以加速防御工作，其环境基于真实代码、可扩展，连前沿模型也感挑战。
所属事件:Anthropic 用 Claude 为百余开源库生成汇编级形式化安全证明(10 条相关)→
「安全」频道最新
- Ben Bajarin：Agentic AI 进军网络防御，下一难题是给 Agent 多大权限 — BenBajarin · 2026-10-23
- 「别再叫他蠢了」：AI 圈激辩闭门强模型能否消灭软件漏洞 — MoonL88537 · 2026-10-23
- 60 岁韩国农民发帖质问 Reddit：用户付费订阅还要免费供数据，该得什么回报？ — Wrong-Expression6981 · 2026-10-23
- AI 网络攻击能力动摇「前沿节奏」叙事，安全失衡引担忧 — inductionheads · 2026-10-23
- NSA 要求 PHP 站点紧急补丁:潜伏 14 年漏洞被一句 AI 提示词挖出 — nicolechirps · 2026-10-23
- Kimi K3 引发网络安全担忧:研究者称未来 6-12 个月可能很艰难 — NathanpmYoung · 2026-10-23