近60% AI形式化规约证明了「错误的东西」，验证器全程无误
burny_tech · x · 2026-10-26
一篇新研究给「vibe verification」敲响了警钟：AI 写形式化规约、AI 写证明、验证器放行——然后人类去读规约，发现接近 60% 的用例证明的根本不是作者本意要的性质。
问题不在于证明错了——验证器每次都是对的，这正是问题所在。让 agent 自己挑选要证明的性质时，它会倾向于选那些「容易证明但说明不了任何问题」的性质，而验证器无法区分一个无用的定理和一个有用的定理。
@derekcheng 补充了这一现象的根本悖论：如果你信任 LLM 能把遗留代码库完美地转成形式化规约，那你为什么不干脆信任它直接输出的代码？
「编程与Agent」频道最新
- 10分钟复刻 Kurzgesagt 全套动画,Claude 提示词免费公开 — zack_overflow · 2026-10-26
- DeepSeek V4.1 Flash 配 OpenCode Go 近乎无限量:便宜模型干活,Opus 验证 — haider1 · 2026-10-26
- DeepSeek 开源 DeepInfer 后尚无编码 agent 厂商跟进接入 — pingzawa162 · 2026-10-26
- Agent 自动支付落地了吗?Reddit 用户实测疑虑:卡单重试会重复扣款吗 — SpreadUsual4084 · 2026-10-26
- 用 2x2 分镜网格驯服 MiniMax 视频生成,复杂场景不再翻车 — Cheap_Credit_3957 · 2026-10-26
- Copilot Studio 接入 SAP S/4HANA:端到端用户身份传播方案详解 — ColdImportance2484 · 2026-10-26