人类一致性无法验证judge
sanmikoyejo · x · 2026-07-12
线程指出，使用人类一致性来验证 judge 不可扩展：每次配置改动都会让上一轮研究失效。Lean kernel 也帮不上忙，因为它只能检查证明是否通过，不能判断提出的定理是否正确、是否过于空泛或欠约束。即使代码能 typecheck，也可能在语义上有问题。
「研究」频道最新
- TRL 上线 Score Centering：直击 RL 训练不稳定的根因 — lvwerra · 2026-10-27
- Latent-Foresight:让世界模型学着预判自己的未来 — abursuc · 2026-10-27
- 英国 AISI 发文：现有手段不足以防生物 AI 工具被滥用 — davidmanheim · 2026-10-27
- CMU 发布 XYBench:LLM 只答字面问题,常无视用户真实需求 — valentina__py · 2026-10-27
- arXiv 前主席提示:投稿主分类选错,论文几乎必被搁置 — tdietterich · 2026-10-27
- arXiv 积压超 4000 篇论文被搁置，版主致歉并给出避坑建议 — tdietterich · 2026-10-27