斯坦福 OSVerify 框架审查 OpenAI 11 篇数学预印本,揪出 18 处问题
james_y_zou · x · 2026-10-15
斯坦福团队发布 arXiv 论文 OSVerify,针对 AI 生成科学产出超越人类审稿能力的瓶颈,提出「单侧验证」框架:在尽量不错杀少数有效解的约束下,最大化拒绝无效解,把人工审阅成本显式纳入优化。
- 核心洞察:验证一个具体错误比判断整个解的对错更容易,因此把验证解耦为「错误提议」(分层搜索潜在错误)与「错误验证」(区分实质错误与幻觉)两步。
- 效果:在竞赛与科研级基准上,相比投票基线平均减少 46% 的无效解人工审阅,验证器经后训练后提升至 57%。
- 实战:用 OSVerify 审查 OpenAI 近期 11 篇数学预印本,经专家确认发现 5 个重大问题和 13 个小问题;论文还称其帮助解决三个 Langlands 开放猜想并获专家确认,展示人机协作审稿的可行性。
所属事件:斯坦福 OSVerify 审查 OpenAI 论文揪出 18 处问题(4 条相关)→
「漫话AGI」频道最新
- Katja Grace 质疑:Dario、Sam 和 Elon 没在 AI 安全上拿出全力 — NathanpmYoung · 2026-10-15
- 博主汇总:前沿模型接连攻克人类困求数十年的难题 — IgorCarron · 2026-10-15
- 研究者 Andrew G. Wilson 炮轰公开信:比什么都不做还糟 — andrewgwils · 2026-10-15
- BARRACUDA 微流控芯片一次捕获百万单细胞，高通量测绘基因线路设计空间 — NikoMcCarty · 2026-10-15
- Reflection AI CEO：开源模型越多眼睛盯着越安全，企业正从租 AI 转向自持 — markjeffrey · 2026-10-15
- 哲学家 Schwitzgebel：对 AI 意识有定论的人多半是错的 — eschwitz · 2026-10-15