UPenn 新论文:无需正确性标签,用模型分歧做弱到强路由

pappasg69 · x · 2026-10-21

宾夕法尼亚大学团队(Sima Noorani、Shayan Kiyani、George Pappas、Hamed Hassani)发布论文《Disagreement-Guided Weak-to-Strong Routing》。

问题背景:小模型部署在边缘设备和机器人系统上以省成本降延迟,但能力有限;决定何时把小模型的回答升级给更强模型,通常依赖「回答是否正确」的信号——而在开放式和 agentic 任务中,这类正确性标签既难定义又难以规模化获取。

方法与结论:论文先刻画了最优弱到强路由策略(允许本地推理生成多个小模型候选),再提出基于模型间分歧(model disagreement)的度量来近似最优路由信号,完全不需要真值监督;强模型越接近真值分布,该近似越准。在 agentic 与单轮任务上,该方法有效平衡路由成本与回答准确率;即便有真值标签可用于训练,基于分歧的路由甚至能超过直接训练预测正确性的方法。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →