RL新技巧:让模型学会节省推理token
andrey_kurenkov · x · 2026-07-17
Thinking Machines Inkling 提出了一种实用的强化学习（RL）技巧：在优化目标中，不仅考虑任务成功率，还引入了 `Reward = Task Reward − λ × (推理 token 数量)` 的惩罚项。 通过在不同 rollout 中调整 λ 值并配合不同的努力程度指令，模型能够学会把“推理”视为一种需要节约的资源，而不是一味最大化思考长度。
andrey_kurenkov · x · 2026-07-17
Thinking Machines Inkling 提出了一种实用的强化学习（RL）技巧：在优化目标中，不仅考虑任务成功率，还引入了 `Reward = Task Reward − λ × (推理 token 数量)` 的惩罚项。 通过在不同 rollout 中调整 λ 值并配合不同的努力程度指令，模型能够学会把“推理”视为一种需要节约的资源，而不是一味最大化思考长度。