LoCo 用局部偏好学习压缩推理链,数学任务 token 省 45%
pmttyji · reddit · 2026-11-04
论文提出 LoCo(Local Preference Learning),针对大推理模型「信息已足够仍继续 deliberation」的过度思考问题。已有推理压缩方法多作用于整条轨迹,LoCo 关注局部决策:该继续推理还是该收尾。
方法:
- 从模型自身 trace 中检测候选「过度思考状态」
- 冻结对应推理前缀,从同一状态重新生成更短的已验证续写
- 用状态条件偏好对做 DPO 训练,教会模型「何时继续、何时结束」而非单纯鼓励更短轨迹
- 训练数据完全由自生成数学 trace 构造
结果(5 个数学 + 3 个代码 benchmark):
- 数学任务完成长度减少 41.7%–45.4%,代码任务减少 23.4%–36.3%,且准确率持平或提升
- 所有代码 benchmark 上取得最佳 AUC;仅用数学数据训练即可有效迁移到代码生成
资源:arXiv 2611.04814,GitHub 与 HuggingFace(LoCo-7B)均已开放。
所属事件:腾讯等提出 LoCo：局部偏好学习压缩推理链(2 条相关)→
「研究」频道最新
- 清华联合 NYU 等发布 RoboDoctor:免训练框架让 Agent 精修机器人动作 — jiqizhixin · 2026-11-05
- ipSAE 扩展到配体评分,修复 AF3/Boltz-2 ipTM 失真问题 — sokrypton · 2026-11-05
- CMU 提出 Visual Token Routing,VLM Agent 视觉 token 减少 5.8 倍精度不变 — wellecks · 2026-11-05
- TLAPS-Bench 用 Agentic AI 找出 SlateDB WAL 读一致性 bug — tianyin_xu · 2026-11-05
- CellType 称 27B 生物模型预测细胞胜过全部 12 个前沿模型 — alifcoder · 2026-11-05
- 零微分几何前置的信息几何入门教程发布,附视频与讲义 — FrnkNlsn · 2026-11-05