定理证明器漏洞该算安全问题吗，Anthropic 护栏引争议

多位开发者质疑 Anthropic 将定理证明器中的 bug 讨论列为网络安全问题并加以拦截：有人调侃「最坏结果不过是证明出 false，让数学家头疼一下」。Nathan 等人参与讨论，ethanbodzioney 则认为漏洞本身确实是坏消息，但随机的人发现漏洞并不令人担心，真正的问题在于 LLM 正被越来越多地用于批量生成证明，若证明器存在漏洞，可能被大规模利用。争论折射出 LLM 写证明时代下安全护栏边界如何界定的困惑。

2026-11-10 ~ 2026-11-11 · 4 条相关