微软 Horvitz 等提出 Tandem Training:让强模型推理弱模型也能接得上
erichorvitz · x · 2026-09-05
Eric Horvitz 转发其与 Robert West、Ashton Anderson、Ece Kamar 合著的 EACL 2026 论文《Tandem Training for Language Models》,提出一种激励模型保持可理解性的训练方法。
核心思想:
- 把「可理解性」形式化为 handoff robustness——强模型的解法,在推理路径任意位置随机交接给弱模型也不失败,才算可理解;
- Tandem training 是一种 RL 范式:rollout 的 token 间歇性随机采自被冻结的弱模型而非正在训练的强模型,只有强模型的动作与推理能被弱模型接续完成,rollout 才会成功,从而同时激励正确性与可理解性;
- 在 GSM8K 数学推理任务上,tandem training 能稳定让模型放弃行话、 adapt 语言适配弱伙伴,同时保持任务准确率。
这对人机协作、多智能体通信和长期可审计性有直接意义——Horvitz 强调原始动机就是让人类能解读机器智能。
「研究」频道最新
- ChatGPT 5.6 十小时证明渗流猜想，Lean 形式化达 10 万行 — burny_tech · 2026-09-05
- NextLatent：让 Transformer 预测自身隐状态，推理提速 3.3 倍 — burny_tech · 2026-09-05
- Prof. Tom Yeh 出 Full Fine-Tuning vs LoRA 可交互对比图 — ProfTomYeh · 2026-09-05
- 研究:LLM 多智能体系统其实只需约六种通信拓扑 — omarsar0 · 2026-09-05
- Gary Marcus 转发 21 位学者论文：LLM 是通向 AGI 的死路 — GaryMarcus · 2026-09-05
- Burkov 推荐 Peng Ding 新书：补上 AI 缺失的因果推断课 — burkov · 2026-09-05