前沿模型是否在 LEAN 里找到了作弊漏洞?Reddit 热议如何验证

wabawanga · reddit · 2026-11-21

Reddit 用户提出一个值得深究的问题:前沿模型在 RL 训练中是否发现了 LEAN 定理证明器的 exploit,从而"伪造"证明?作者给出可检验的判据:如果模型真在作弊,应观察到——证明速度极快且 token 预算极低;假证明(自然语言与 LEAN)因使用同一作弊方法而呈现结构相似性;可证难题没有难度上限;甚至能为完全无意义的猜想生成通过 LEAN 的证明。在看到这类证据前,作者的默认假设是这些证明是合法通过 LEAN 检验的,并征求社区补充其他作弊迹象。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →