TUM 论文揭示大模型组合任务隐式分配思考预算致错误率上升
TUM · hf · 2026-10-21
TUM 团队在 HF 上发布论文《On the Fragility of Tasks under Composition》,研究语言模型在单条 prompt 中处理多个任务时的失效机制。
核心发现
- 模型单独能可靠解决的各子任务,组合在同一 prompt 中时错误率显著上升,且无法用独立错误简单累加解释。
- 在开源模型和前沿模型 Claude Opus 5 上均观察到:组合情境下每个任务分到的思考 token 明显少于单独处理时,即使整个序列远未超出上下文窗口——即存在一种「隐式思考预算」机制。
- 单独处理时需要更长推理链的任务,在组合下更脆弱、更易出错。
应用价值
按任务脆弱性分组后,可以操纵这种隐式预算:在数学和语言任务上减少 43% 的 token 用量,同时保持准确率。单独处理时非脆弱任务获得的推理量超出实际所需,存在算力浪费。
「研究」频道最新
- Agents' Last Exam 基准全量跑在 HF 基础设施上,小米 MiMo 登顶超 Kimi K3 — yb2698 · 2026-10-21
- 用 PMI 监督点积：对比学习的表示损失新设计 — serrjoa · 2026-10-21
- GIST 论文：语义引导的自适应图像分词器，低 token 下 LPIPS 降 30% — cgmsnoek · 2026-10-21
- Ragged Blocks：在排版布局内渲染嵌套结构的新方法 — neurocy · 2026-10-21
- MemT-1.0：把记忆做成模型内生能力的新架构 — pmttyji · 2026-10-21
- NatWest 实测:Cohere Transcribe 英音 WER 15.3% 胜 Whisper — Nils_Reimers · 2026-10-21