CRoS 奖励打乱 CoT 因果，准确率与忠实度兼得
mohitban47 · x · 2026-11-03
UNC 团队（博士生 XiaoYu 的第一篇一作论文）提出 CRoS（Causality Reward on Scrambled CoTs），用奖励 CoT 因果性的方式同时提升 LLM 推理的准确率与忠实度。
核心观察：仅奖励正确答案（outcome reward）虽然提高准确率，但模型可能学会走捷径、事后合理化，并不真正依赖其思维链，牺牲忠实度。CRoS 的关键思想是：如果推理对答案有因果贡献，打乱推理步骤的顺序应改变答案概率，据此设计奖励信号。
在 Gemma-3-4B 上，CRoS 将 CoT 忠实度提升 13.8%，同时改善准确率与推理质量，缓解了准确率—忠实度的权衡。
所属事件:CRoS 用打乱思维链奖励因果性，忠实度提升 13.8%(2 条相关)→
「研究」频道最新
- Qwenputer：把完整 RISC-V CPU 编译进 Qwen3.5-4B 权重，还能跑另一个 LLM — udmrzn · 2026-11-03
- 读原始权重就能认出游戏:Astra 无需工具叫破四款 Atari 游戏 — burny_tech · 2026-11-03
- 放弃视频路线,直接在 3D 里预测未来的世界模型开源了 — YunzhuLiYZ · 2026-11-03
- 梯度归因提速至嵌入的3倍，0.6B小模型可监测大模型训练数据的有害样本 — PeterHndrsn · 2026-11-03
- Dynamical 发布 SDL-2 评测：前沿模型做材料科学实验决策仅约半数正确 — BenBlaiszik · 2026-11-03
- 补刀分析:Astra 权重手术只对有死循环缺陷的 Qwen 有效,救不了 Gemma 270m — teortaxesTex · 2026-11-03