论文揭示推理模型“思考”行为未必关联正确答案
Jeande_d · x · 2026-08-27
一篇新论文研究了推理模型（Reasoning models）在输出数千 token 的思维链时的行为。研究发现，尽管这些模型在准确率上通常优于其指令微调版本，且表现出自我修正、假设测试等行为，但这些“思考”行为实际上往往与最终答案的正确性关联不大。论文质疑了“思维链能放大最相关推理行为”的假设，指出了当前评估指标（如准确率）无法揭示推理过程中的失败模式。
所属事件:CMU 与斯坦福论文：推理模型强化的行为多与正确性无关(8 条相关)→
「模型」频道最新
- 爆料人称 Opus 5 或采用深度循环架构，方向仍存变数 — scaling01 · 2026-10-16
- GPT-6.1 审查 arXiv：6% 论文主定理有错，近两月降至 1.5% — nitarshan · 2026-10-16
- Nvidia 联手 Nolla 后训练 Nemotron 3.5 VL，皮肤科诊断称超越前沿 — LoganGrasby · 2026-10-16
- Gemini 4 Argon 登顶 ARC-AGI-3 达 97.5%，第二家破 95% — patience_cave · 2026-10-16
- 微软 MAI 自研 3T 参数基座模型亮相，多项 held-out 评测领先 — soldni · 2026-10-16
- Datadog 发布 Scout 1.0：基于 GLM-5.3 Flash 微调的 SRE 专用模型 — Tim_Dettmers · 2026-10-16