Learning to Interrupt in Language-based Multi-agent Communication
Danqing Wang, Da Yin, Ruta Desai, Lei Li, Asli Celikyilmaz, Ansong Ni
CoLM 2026
cs.CL
2026-04-08
说话方按块流式发，听者举手打断。纯提示会抢话；HandRaiser用树采样估收益再SFT，相对不打断基线通信成本降32.2%，成功率持平或更好。
多智能体系统里，一条消息通常要等说话方生成完，听的一方才能开口。模型爱啰嗦，消息一多，上下文膨胀，推理变慢，延迟跟着上去。已有工作几乎都在说话方做压缩：提示「说短一点」，或训练说话方少吐 token。
同一段描述对不同听众够不够，并不一样。文字 Pictionary 里，16 词的描述，有的模型已经能猜对，有的还在懵。说话方没法事先知道听的人卡在哪。人类对话里，听懂了就会打断；现在的多智能体协议里没有这个动作。
协议本身很简单。说话方按固定块往外推，默认 16 token，每到一块，听的一方看已收到的前缀，决定要不要举手。举手了，说话方停，听的一方立刻回。轮询或广播都能拆成这种一对一过程；多人同时举手时，先到先得。
直接提示「信息够了就打断」行不通。模型过度自信。会议安排任务里，87.6% 的提示打断发生在第一块，而规划方一条消息平均大约 3.8 块。当前轮省了，总轮数从 11.5 涨到 15.0，总 token 反而更高。
HandRaiser 把「该不该在这块打断」做成有监督分类。对每个候选切断点做树采样：截断后让对话滚完，估后续通信成本和任务成功率，跟不打断的完整消息比。只有成本下降且成功率不掉的点标成正例，其余为负。再用 Llama-3.1-8B 和 70B-Instruct 做 SFT，学习率 1e-7，训 500 step。推理时每块只多生成一个 Yes/No token。
正例定义故意保守：只要求比「不打断」好，不追求全局最优切断点，对 rollout 策略也就不那么敏感。采样用随机打断，分支上限 3，每个节点 10 条 rollout。文字 Pictionary 的采样块长是 8，另外两个任务是 16。
三套任务：2 人文字 Pictionary(100 题）、3 人会议安排（50 题，旅行者加两个规划方，各持私有日历）、3 人 MMLU-Pro 辩论（100 题，正反方加主持人）。主实验里只有听的一方能打断。说话方是 Llama-3.1-70B、405B 和 Gemini-2.0-flash，数字对说话方取平均。
相对不打断的 Generic 基线，HandRaiser 在三任务上平均砍掉 32.2% 通信成本（全部 agent 的生成 token，含打断判定本身），成功率持平或更高。
| 任务 | Generic 成功率 / 成本 | Concise | Prompting | HandRaiser |
| 文字 Pictionary | 0.758 / 373.6 | 0.777 / 301.7 | 0.582 / 492.1 | 0.767 / 278.1 |
| 会议安排 | 0.347 / 1294.2 | 0.347 / 1090.1 | 0.310 / 1781.6 | 0.377 / 1026.5 |
| MMLU-Pro 辩论 | 0.583 / 1598.2 | 0.590 / 838.1 | 0.595 / 1952.8 | 0.620 / 794.4 |
说话方压缩（Concise）在辩论上已经把成本从 1598.2 打到 838.1，HandRaiser 再压到 794.4，成功率从 0.583 升到 0.620。提示打断和随机打断都会把轮数打上去，总成本往往比不打断还高。Llama-8B 听者相对 Generic 的降幅分别是文字 Pictionary 24.3%、会议 23.4%、辩论 48.9%。
在 Llama-70B、405B、Gemini 上训过的听者，换到没见过的 GPT-4o 说话方，成本仍降、成功率略升。跨任务迁移也成立，但同任务微调最好：文字 Pictionary 上训的模型拿去开会，成本从 1361 涨到 1508，没帮上忙。
跟 Concise 说话方叠在一起，成本还能再降一点。Llama-8B 听者在会议上成功率从 0.307 掉到 0.273，辩论从 0.583 掉到 0.563。压缩和打断正交，叠不好会伤任务。
三人全都能打断时（会议安排，70B，没再微调），单轮 token 从 103 降到 64，轮数从 13.39 涨到 20.29，总成本 1339 到 1209，成功率钉在 0.45。能跑，但远没单听者设置那么干净。
多智能体省 token 的主流是少发消息，或让说话方说短。HandRaiser 证明听的一方也能当压缩器，而且能按自己懂多少来切，这是说话方压缩做不到的。对延迟敏感、带私有信息的协商和辩论，这是一条不改说话方、只给听者加一个 Yes/No 头的路径。
它跟说话方压缩正交，可以叠。但它不是即插即用的产品：要为任务做树采样再 SFT，主实验也只训了 8B 和 70B 听者。
论文没有单独的 Limitations 节。从正文和附录能读出这些。
主实验里只有一个角色能打断。对称打断会把轮数打上去，净节省变薄。树采样本身很贵，他们用随机抽节点把复杂度压到大约 O(TNM）。正例只跟「不打断」比，学到的是「别比完整消息差」，不是最优切断点。
失败案例（约 50 条人工检查）有四类：切太早，错过后面的纠正；块边界把开始时间和结束时间切开，听者只拿到一半约束；打断完又让对方继续说，省下来的 token 吐回去；切太晚，块太大、消息太短时几乎没省。小块长（4 token）时模型对输入变化不敏感，更容易抢话。
评测任务偏合成：过滤过的 Pictionary 词、脚本生成的会议约束、MMLU-Pro 改成正反方辩论。没有软件工程或多工具 agent 上的端到端数字。通信成本用生成 token 当延迟代理，假设同网、KV cache 可用；真实跨机部署的网络开销他们基本忽略。训练数据规模也不大：三个任务分别 3010、1973、4431 条轨迹。