MIT 等研究：投机解码可提升长程智能体推理精度
kastnerkyle · x · 2026-11-05
清华 lhyTHU 团队与 MIT、Princeton、Northeastern 等机构的研究发现，投机解码（speculative decoding）不只是加速机制，还会影响长程智能体的上下文精度。
- 关键发现：在验证窗口内数值噪声会累积；草稿模型对「思考过程」的接受与否会在 30 步之后改变模型输出分布，进而随机方向地影响长程智能体的推理准确率
- 方法：无法改变目标模型验证的整体 token 分布，但可以训练草稿模型在关键决策点「故意被拒」——通过识别 agent 轨迹中的关键推理点并做对抗偏好训练，让推理在关键处分叉、重新验证，使关键思考 token 由目标模型以最低噪声条件采样
- 效果：仅训练 0.06%（deepseek-v4.1-flash-1017）和 0.28%（GLM-5.3）的托管参数，即在复杂 agentic coding 基准上显著提升端到端成功率，且不改变目标模型或其输出分布
所属事件:研究：投机解码可提升长程智能体推理准确率(2 条相关)→
「编程与Agent」频道最新
- Polylane 长文:Code mode 本质是决定工具结果进上下文还是进变量 — ritakozlov · 2026-11-05
- Agent Arena 长程任务实测:五大前沿模型用时差距达 55 分钟 — arena · 2026-11-05
- agent 优化推理的根本两难:高保真测不出量,高吞吐测不准 — simran_s_arora · 2026-11-05
- 开发者打造无窗口 OS:本地 Qwen 9B 直接生成每个界面 — leonardo_c · 2026-11-05
- 苹果联合团队发布 Siri Evaluations，App Intents 接入 Siri AI 别漏掉评测环节 — rudrank · 2026-11-05
- RECAP：用 RL 训练长程 Agent 的上下文压缩，SWE-bench 提升 4.3 个百分点 — Michael_D_Moor · 2026-11-05