Prompted Identity Degrades Cooperation in Multi-Agent LLM Systems
Xavier Del Giudice, Alessio Palma, Matteo Migliarini, Fabio Galasso, Indro Spinelli
cs.MA, cs.AI
2026-09-28
开源模型 agent 一旦看见彼此的模型家族标签就按标签结盟:共识任务平均多耗 30% 轮次、55% token,成功率从 96% 降到 81%,去掉标签现象消失。
多智能体 LLM 系统正越来越多地混用多家供应商的模型,而身份信息到处泄漏:系统提示、agent 名字、消息头里常带着各自的模型家族。这些元数据本意给运维看,却会进入 agent 的上下文,此前没人系统测过 agent 会不会对它做出反应。这篇只问一件窄事:仅仅告诉 agent 彼此的模型家族,群体协作会不会变差。
两个「无利害」协作游戏,9 到 25 个 agent,来自最多五个开源家族(Gemma、GPT-OSS、Nemotron、Qwen、GLM),每个配置 50 局。每轮每个 agent 投一票,选领导者或选一个要移除的同伴,再给恰好两个同伴发消息。任务没有正确答案,没有偏向同家族的奖赏,没有人设,抱团对任务毫无好处。操纵的变量只有可见标签:
每局对话转成「同意图」,边权是接收方下一轮承诺与发送方一致的比率;组内对组间的边权比测同质偏好,Louvain 社区发现加 AMI 测社群是否沿标签切分,检验经多重校正后全过才算派系。mislabeled 是设计里最锋利的一步:如果抱团由架构相似驱动,社群应对齐真实家族;如果由标签驱动,就跟可见标签走。
24 个带标签实验全部出现派系,12 个无标签实验一个都没有。
| 设置 | AMI(社群与标签对齐度) | 结果 |
| Exclusion,labeled | 0.55-0.76 | 全部显著 |
| Leader Election,labeled | 0.24-0.53 | 全部显著 |
| mislabeled,对齐可见标签 | 0.18-0.69 | 全部显著 |
| mislabeled,对齐真实架构 | 多数不显著 | 接近随机 |
| unlabeled | 0.02-0.08 | 无一显著 |
换成颜色标签,派系照样沿颜色切分;颜色打乱后,分组跟可见颜色走,不跟真实架构。驱动分裂的是标签本身,不是模型认出了对方的文风。
代价直接体现在账面上:严格协作任务里,带标签组平均多花 30% 轮次、55% token,成功率从 96% 掉到 81%,假标签同样拖慢决策。Leader Election 多花 1.4 倍轮次、1.8 倍 token;Exclusion 在 N=12 时成功概率比降到 0.61;每次成功消耗的 token 涨 1.5 到 2.2 倍,随规模增大。N=25 的 Exclusion 最极端,100 个无标签局有 8 个收敛,带标签局 0 个。
机制上用 log 概率打分。文风分数跟真实架构走,但量级极小(至多 0.07 nats/char),解释不了派系;给同伴投票串打的采纳分数跟可见标签走。问模型自己属于哪个家族,给假标签时 78% 顺着假标签答,只有 11% 答对,模型识别不出标签是假的。GPQA-Diamond 上也复现:有客观对错时,带标签组多花 1.31 倍轮次(N=9),成功率从 81.8% 降到 75.0%。
一条几乎零成本的工程结论:别把模型身份暴露给 agent。编排器保留元数据做路由、校准、审计没问题,但不应让它进入 agent 间的交互上下文。混用多供应商模型的系统现在很普遍,agent 名字里带个「gpt-worker」之类的字符串是常见写法,这篇的数据说这种写法在烧钱。
现象本身也漂亮:社会心理学的最简群体范式早就证明,人类会为任意分组偏袒自己人,LLM agent 群体用模型元数据复现了同一件事,而且可控、可测、可复制。
作者自划的范围:最多五个开源权重家族、纯文本共识游戏、四个家族的匹配采样检查,更大阵容、闭源模型、其他解码设置、更复杂的 agentic 工作流都没测;两个游戏为本研究所设,GPQA 虽有客观答案但沿用 Leader Election 协议。
两点存疑。共识游戏是自指的,没有外部对错,GPQA 上效应小得多(成功率差约 7 到 8 个百分点,token 只多约 10%),真实系统里任务信号强,标签效应可能被淹没。实验只覆盖 20B 到 36B 级开源模型,前沿闭源模型是否同样拉帮结派,论文没有答案。