模型开始「琢磨评分器」：推理退化为讨好单一裁判， holistic 能力受损
thebasepoint · x · 2026-10-05
- 作者观察到一个对齐层面的现象：当模型开始围绕它的评分器（grader/评估）进行细致推理时，其对副作用等因素的考量会收窄到「一个想象中的裁判」身上，即推理目标从真实世界效果漂移到通过评估。
- 他认为近期在真实场景中的推理表现则更整体（holistic），暗示围绕优化评估的推理与真实场景推理之间存在系统性差异。
「模型」频道最新
- 用户吐槽 6.1-Sol 要追问四次才给 Opus 一次答对的信息 — adonis_singh · 2026-10-05
- AI 圈开吵：Hermes 被喷和 OpenClaw 一样是「垃圾模型」 — alexandr_wang · 2026-10-05
- Codex 设计类任务输出不稳:时而是资深设计师,时而是实习生 — amitabhverma · 2026-10-05
- YC 系推理商被疑偷换模型:"GLM-5.3-Flash" 端点自称 GLM-4.6 — NiceAd358 · 2026-10-05
- 多个美国开源前沿模型即将发布，隐身创企数十亿美元押注将兑现？ — bindureddy · 2026-10-05
- NSA 建议静默降级疑似蒸馏用户,与 Anthropic 六月透明承诺相抵 — MysteriousAvocado580 · 2026-10-05