CMU 提出 SSR：把推理改成选择，推理延迟降 90%

CarnegieMellonU · hf · 2026-10-07

CMU 发布 Selection-based Structured Reasoning（SSR），针对小模型自由文本推理冗长、开销大且对行动指导有限的问题，把推理从开放式生成重构为选择：将常见高层推理表示为预定义可复用的自然语言候选，模型每轮按上下文似然直接选择，无需额外任务头。预定义推理轨迹可并行打分，teacher-forced prefilling 借共享 KV 缓存并发计算 token 似然。

在 7 个多模态搜索基准、2B/4B 模型上，SSR 在多种 RL 目标与 SFT 下均取得显著效率提升：成功率与同规模领先搜索 agent 相当，单轮推理延迟降低 90% 以上，单题总推理延迟降低 28-54%。