形式化大证明仍可能被漏洞劫持:约束求解器 bug 之警
mboehme_ · x · 2026-11-23
安全研究者 mboehme 提出:机器检验的证明固然比人工证明可靠得多,但没理由相信自动证明的 agent 不会利用底层工具的功能性 bug。其同事在软件测试 oracle 问题上发现,约束求解器、编译器等基础工具中存在大量功能性 bug,因此对超大规模形式化证明的完全信任缺乏依据。
「安全」频道最新
- Fireworks AI 数据泄露波及 Uber 15 万司机,美新规限制对华算力访问 — DavidLinthicum · 2026-11-23
- 知名博主提醒:出现假冒官方账号,附带的链接不要点击 — dotey · 2026-11-23
- 为什么黑客组织不爱用 AI 攻击:噪音大、token 太贵、老方法仍有效 — jcran · 2026-11-23
- 研究者质疑用困惑度定安全线:数据配比偏差让跨实验室比较几乎不可能 — eliebakouch · 2026-11-23
- Vercel CEO 警告:「免费 ZDR 隐身模型」疑为国家级数据窃取通道 — AccBalanced · 2026-11-23
- DOCKET 基准:LLM 政策反馈偏向政府观点,人设建模无法纠正 — stanfordnlp · 2026-11-23