AI 形式化验证的残酷现实：停机问题挡住了「现有代码库」
danbri · x · 2026-10-06
这是对 @hillelogram 长文的转发，讨论「让 AI 做形式化验证」的一个常见误解。
大家以为在 AI 做形式验证的世界里，可以拿现有代码库让 AI 证明其正确性，要么得到证明、要么发现 bug。但现实有几点要挑刺，其中之一就是「现有代码库」这个前提——根源是经典的停机问题：不存在通用算法能对任意程序和输入正确判定它是否会终止。
再推广到 Rice 定理：对程序的任何非平凡语义性质，都无法自动证明。当然，我们仍能对某些程序证明某些性质——形式验证作为领域存在的原因。诀窍在于：代码要用适合验证的风格来写（文中举了例子）。这暗示想让 AI 大规模做验证，前提可能是先改变代码的写法，而不是直接套在遗留代码上。
「编程与Agent」频道最新
- Hamel Husain:BERTScore/ROUGE 等相似度指标不适合评估 LLM 输出 — HamelHusain · 2026-10-06
- lordicon-mcp：让 AI agent 搜索并嵌入动效图标 — modelcontextprotocol · 2026-10-06
- Inferventis 发布 MCP server：给 agent 配金融计算工具 — modelcontextprotocol · 2026-10-06
- YC 押注的 Roma 发布：会自己执行任务的待办清单 — ycombinator · 2026-10-06
- Tenuo 为 NVIDIA OpenShell 加任务级 MCP 权限控制 — daniel_tenuo · 2026-10-06
- LangChain 深度 agent 免费内置网页搜索，由 p0 提供支持 — LangChain · 2026-10-06