RL新技巧:让模型学会节省推理token
andrey_kurenkov · x · 2026-07-17
Thinking Machines Inkling 提出了一种实用的强化学习（RL）技巧：在优化目标中，不仅考虑任务成功率，还引入了 Reward = Task Reward − λ × (推理 token 数量) 的惩罚项。
通过在不同 rollout 中调整 λ 值并配合不同的努力程度指令，模型能够学会把“推理”视为一种需要节约的资源，而不是一味最大化思考长度。
「研究」频道最新
- 普渡大学打造无 GPS 穿林追踪跑者的自主无人机,LiDAR 全部上芯片 — KordingLab · 2026-10-26
- 研究:LLM 推荐药物集中于同一品牌,均值占比达 97.5% — EricTopol · 2026-10-26
- Papers with Code 宣布开源，采用 Apache 2.0 许可证 — NielsRogge · 2026-10-26
- 斯坦福 NLP COLM 2026 主题演讲:可解释性从被动观测转向因果干预 — stanfordnlp · 2026-10-26
- 中科大论文:若矩阵乘法指数低于 9/4,格密码筛法也将提速 — jedisct1 · 2026-10-26
- LLM 文本水印经典实现:GitHub 开源水印与检测算法 — adnan_hashmi · 2026-10-26