TAC-CoT: Tool-Empowered Implicit Chain-of-Thought via Interleaving Explicit Tokens
Juseon Do, Sangmin Bae, Jeesu Jung, Hwanjun Song
EMNLP 2026 Main Long
cs.CL
2026-11-01
KAIST 团队让模型在工具调用之间用 3 个潜 token 完成推理，agent 数学与 QA 精度最多升 8.8 分，每题前向次数最多降到 1/6.8。
Agent 的推理开销主要花在把每一步思考写成文字上。ReAct 式循环里，模型每次调工具前后都要生成整段自然语言推理，轮次越多 token 越多，早先的错误还会顺着长轨迹累积。
隐式 CoT 本来是对症的药：用几个连续向量在潜空间里想，不出声。但 CODI、SIM-CoT 这类方法把全部推理压在答案之前的一个固定长度 token 块里，块内没有位置可以插入工具调用，这些方法当不了 agent；而且每个 query 难易不同，分到的 token 预算却相同，难题被系统性欠配。
TAC-CoT(KAIST,EMNLP 2026)把两条路接上：隐式推理段之间，保留文字形式的工具调用、环境观察和最终答案。
核心设计是交错。显式轨迹里每段自然语言推理换成 b=3 个连续 token 组成的隐式段；工具调用、观察、答案保持原样。
显式 token 保住了 agent 必需的可执行接口，逐段路由让预算随难度伸缩，两个选择各补一个旧缺陷。
三档 backbone:Qwen2.5-0.5B、Llama-3.2-1B、Qwen3-4B。基线包括同等数据微调的 Explicit-CoT agent、TokenSkip(剪枝压缩显式推理)、PCCoT / CODI / SIM-CoT(固定预算隐式方法)。成本指标用每题平均前向次数 #Fwd,排除硬件与 API 延迟干扰。
| 设置(Qwen2.5-0.5B) | 指标 | Explicit-CoT | TAC-CoT |
| GSM8K,无工具 | Acc / #Fwd | 50.9 / 117.3 | 58.8 / 54.6 |
| 数学三集平均，无工具 | Acc / #Fwd | 41.1 / 113.1 | 45.4 / 53.7 |
| QA 三集平均，带工具 | EM / #Fwd | 42.4 / 283.3 | 45.8 / 44.2 |
Llama-3.2-1B 的 QA 平均 EM 从 53.4 到 59.2,前向从 76.3 降到 35.1;Qwen3-4B 数学平均 66.1 到 71.3。跨模型平均，数学 +5.8 个百分点、QA +2.4,GSM-Hard、TriviaQA 等域外集同样成立。接上真工具后，Qwen2.5-0.5B 的 QA 比无工具版平均再高 29.9 分，前向降到 1/13.3。摘要口径的最大增益 8.8 分、最大前向缩减 6.8 倍；L40S 单卡实测 wall-clock 加速 2.3 倍(数学)、2.4 倍(QA)。
按金标准推理步数给 GSM8K 分层，无工具的 TAC-CoT 对 SIM-CoT 的优势从 1 步题的 +4.6 涨到 4 步题的 +30.3:固定预算恰好崩在最需要深推理的地方。把显式段逐个换成隐式段(0 到 4 段，4 是训练集的 90 分位)，数学平均从 41.1 单调升到 44.9,全换后 45.4。长文字轨迹本身在制造错误累积，这组对照是最硬的证据。
工具质量有直接测量：TAC-CoT 的 AC@5 基本追平 Explicit-CoT 的 AC@10,更少的检索轮次就覆盖到答案；ToolBench 上 GPT-5.1 判定的可解胜率，单工具 51.8%、多工具 58.6%(p<0.01)。固定预算基线的前向更省(PCCoT 数学平均每题 9 次)，但它们拿不到检索证据，QA 上大幅退化。TAC-CoT 的位置是 Explicit-CoT 级的精度，加一半到六分之一的成本；绝对最省的位子仍属固定预算方法，代价是 QA 不可用。
对关注 agent 推理成本的人，这是第一条跑通「隐式 CoT 进推理-行动循环」的完整配方，此前两者结构上互斥。增益集中在多步、多工具的长轨迹，恰好是 agent 最贵的场景；0.5B 到 4B 上精度不降反升，一半以上的前向省了下来。
代价同样清楚：要轨迹数据、要微调，不是即插即用；推理过程不再可读，调试与审计失去可以逐步核对的文字轨迹。需要可解释性的场景，这个交换未必划算。
作者自述两条：路由是段级粒度(段内固定 3 个 token),做不到 token 级分配；更长的交互轮次没有验证。
读数后仍有几点保留。带工具的 QA 平均增益在 Qwen2.5-0.5B 上是 3.4 分，其中 2WikiMultihopQA 贡献 +5.7,TriviaQA 只 +1.5;摘要里的 8.8 分是「最高」口径，正文没有指明出自哪个具体设置。HotpotQA 训练轨迹由 DeepSeek-V3 合成，作者论证所有方法共用同批数据、偏差在对比中对冲，论证成立，但合成数据的质量上限仍封住天花板。wall-clock 只在单张 L40S 上测，2.3-2.4 倍明显低于 #Fwd 降幅，论文自己也提醒两个口径不能直接换算。全部实验在 4B 以下，更大模型或推理特化模型上配方是否仍成立，没有证据。