kalomaze:模型用窄化 RLVR 做事实核查,却学不会基于上下文举证
kalomaze · x · 2026-09-13
kalomaze 观察到当前模型的一个系统性问题:它们大多通过窄化的 RLVR 学会了对具体事实性断言做「认识论内检」,却没有被训练成基于上下文可证明性来提出主张的 agent。
他补充,小模型(指 ant 系列)尤其喜欢在证据到来之前,就把假设——特别是与预训练先验一致的假设——当作已证实的真话随口说出。更糟的是,有时反驳证据其实早已出现在之前的工具调用结果里,模型却直接无视。
这条观察指向一个训练方法论问题:与其用窄 RLVR 补丁式纠错,不如教会 agent「只断言上下文内可证明的东西」。
所属事件:开发者吐槽 AI 智能体乱写记忆文件，窄化 RLVR 是通病(3 条相关)→
「模型」频道最新
- Anthropic 递交纳斯达克上市申请，半年营收 163 亿美元同比增 12 倍 — DeepLearningAI · 2026-10-31
- ThursdAI 播客辩论:Opus 7 将至,「跑分变好」还重要吗 — thursdai_pod · 2026-10-31
- Swift 1.5 Flash Next 去审查逆向版新增多种量化，IQ4 精度换体积 — jjusko20 · 2026-10-31
- 14 个模型测 960 项分析师任务:做分析近满分,选股不如随机 — HeyAmit_ · 2026-10-31
- Anthropic 官宣：11月3日起 Claude 输出将带不可见文本水印 — petesena · 2026-10-31
- 四款 GPT-6 系列模型同台比拼像素画生成效果 — Angaisb_ · 2026-10-31