证明助手惊现 Collatz「证明」：LLM 找漏洞威胁数学正确性根基
marc_lelarge · x · 2026-10-16
巴黎 Automath 研讨会预告 Yannick Forster 的演讲《论证明助手中 Bug 导致的假证明之起源》。背景：Lean 证明助手已迅速成为数学正确性的终极守护者——Buckmaster 与 Alpöge 的 Euler 爆破结果、以及 OpenAI 宣布的 Navier-Stokes 解，其证明均在 Lean 中验证且代码几乎全由 LLM 编写。但仅六个月前，Tristan Stérin 主导的实验显示 LLM 能高效寻找证明助手漏洞：Lean 和 Rocq 均被发现多个 bug，Ramana Kumar 甚至利用一个 bug 在 Lean 中发表了 Collatz 猜想的「证明」。此后 OpenAI 的 Daniel Selsam 又在 Lean 和 Rocq 中发现一连串 bug。演讲将讨论证明助手作为 LLM 证明守护者与 LLM 漏洞搜索靶子之间的张力，梳理今年发现的 bug 谱系并探讨如何增进信任。
「漫话AGI」频道最新
- 日本最繁忙机场停机坪迎机器人,将开展约三年实战测试 — Aiden_Tech_Ai · 2026-10-16
- AI 研究员十年后自白:科研自主性正在被行业文化侵蚀 — mariyaivasileva · 2026-10-16
- 用 AI 出劳动力不算艺术，出创意才算：Aella 划出 AI 艺术边界 — ZeroStateReflex · 2026-10-16
- AI 先逼人当管理者，下一步连中层管理也一起吃掉 — MonkZer0 · 2026-10-16
- 《幕府将军2》复刻版遭差评轰炸，开发者热议 AI 放大画质背锅 — draginol · 2026-10-16
- Pedro Domingos：每个人都该有自己的专属模型 — pmddomingos · 2026-10-16