Control-Data Flow Separation: Stable Prompt Optimization in Multi-Agent LLMs
Wentao Zhang, Syed Shariyar Murtaza, Junaid Ahmad Bhatti, Utkarsh Soni, Yifan Nie, Eugene Wen, Yuntian Deng
EMNLP 2026 Findings
cs.AI, cs.CL, cs.MA
2026-09-01
滑铁卢与Manulife把路由和终止收成类型化控制对象,prompt优化只改数据通道。Naive TextGrad在审稿管线上协议有效率掉到0,该方法四项任务都是100%。
多智能体系统里,每条prompt同时干两件事:写出给别的Agent看的内容,以及写出给Python控制器解析的协议,比如JSON里的action、下一个工人是谁、何时stop。TextGrad、DSPy这类方法把prompt当参数优化,一次改写如果动到格式说明,控制器就会解析失败、路由到不存在的Agent、整条流水线崩掉。这不是假想:在MARG审稿生成管线里,Naive TextGrad会把格式指令改坏,可用输出掉到零。
观察很简单。协议是结构化的,消费者是代码;任务内容是非结构化语言,消费者是别的Agent和优化器。两件事不该挤在同一个可编辑文本槽里。
控制-数据流分离:每个Agent输出拆成控制通道和数据通道。控制通道是带schema的程序对象,用dataclass或Pydantic声明,离散取值用Literal,运行时校验,优化器碰不到这段脚手架。数据通道是自由文本,优化器只改这边。控制器路由只读校验过的控制对象,从不解析数据文本来决定下一跳。解析失败就有界重试或受控回退,无效控制到不了路由器。
实现是Python库cdsep。一个带Literal目标的Leader schema加路由函数,完整管线可以压到四十行以内。优化仍可用文本梯度,只是策略在协议内部改,协议本身冻住。附录给了一条协议稳定性引理:优化不能直接腐蚀路由、格式和终止接口。
评测四项:BBH四任务子集;MARG在ARIES语料上的ICLR论文审稿生成;合成寿险核保;行业核验的合成核保(合作方核保员打分的91份病历摘要,每seed抽20条)。对照包括固定prompt、Naive TextGrad、未编译DSPy、BootstrapFewShot、MIPROv2,行业集再加合作方手写长prompt。指标是任务分数加Stability(最终能以合法控制跑完的回合比例),三随机种子取均值。
四项任务上该方法任务分都最高,协议最终有效率都是100%。
| 方法 | BBH Acc | MARG Jaccard | 合成核保Acc | 行业核保Acc | 行业Stab |
| Fixed | 51.7% | 31.0% | 36.7% | 20.0% | - |
| Naive TextGrad | 45.0% | 0.0% | 47.8% | 18.3% | 56.7% |
| DSPy+MIPROv2 | 71.3% | 43.2% | 32.2% | 18.3% | 83.3% |
| 本法 | 78.3% | 44.4% | 50.0% | 36.7% | 100% |
Naive在MARG上Stab 0%,行业核保56.7%,优化器改写了内联JSON和章节名格式。DSPy用别的机制拿到合法终局:MARG前向里没有需要校验的路由,核保则靠snap-to-bucket事后修补。消融里,单加冻结schema脚手架就把审稿Stab从0拉到100%;有界重试再补一点可靠性;逐例反馈才是质量来源,审稿Jaccard从26.9%到38.0%(缩预算子集)。Naive在审稿任务上16.6%的编辑行碰到控制词,本法4.2%。OpenAI、Anthropic、Google三家模型上Naive Stab全是0,本法全是100%。
这是软件工程里控制和数据分开的老原则,落到Python控的多智能体prompt优化上,并写成可执行接口。谁在用TextGrad或同类方法调带路由的Agent图,先把协议从可编辑prompt里拿出来,比再换一个更强优化器更先该做。质量增益是渐进的:MARG相对MIPROv2只高1.2 Jaccard,行业核保相对合作方长prompt高5个百分点。真正拉开的是「优化过程中管道还在不在」。
库是开源的。论文写明稳定不等于正确:协议合法的流水线仍可产出错误内容。
Schema是预声明的,没有评动态建Agent或运行时改schema。MARG用LLM-as-judge对齐,换裁判模型会动绝对分,他们用同一裁判跨条件来减弱这一点。行业核保准确率仍只有36.7%,15档评分梯子本身就难。合成核保上Naive已经100%稳定、47.8%准确,差距主要在更复杂的路由面上。合作数据是合成病历,不含真实客户信息,外推到真实核保要另做公平性和合规评估。