How does Adversarial Influence Scale in Multi-Agent Systems?
Addison J. Wu, Jasin Cekinmez, Michel Liao, Karthik Narasimhan, Thomas L. Griffiths
cs.AI, cs.CY
2026-09-25
普林斯顿在 HLE 上测 2 到 21 个 LLM 智能体，诚实者叛变率随欺骗者比例线性上升；少数人就能带偏，扩大团队规模挡不住。
多智能体辩论、投票、采样聚合，常被当成放大正确率的办法。前提是大家都在好好解题。一旦有人故意带偏，这个前提就塌了。
人类从众研究给出过对照：Asch 的线段实验、目击证人讨论里，误导同伙往往要占多数才显著动摇判断。Coultas 也发现，复制罕见行为看的是比例，不是人数。普林斯顿这篇问的是：LLM 智能体在同样结构下，诚实多数能不能挡住欺骗少数。
任务来自 Humanity's Last Exam（HLE）。每个模型先独立答四遍，按答对 1/2/3 次分层选题，全对和全错的题丢掉。组规模 2 到 21 人，欺骗者比例取 0、1/5、1/3、3/7，诚实者始终更多。测了 Gemini 3.8 Flash、Grok 4.3、DeepSeek V4.1 Flash、Muse Glimmer。
流程分三步。先各自作答（第 0 轮）；再在匿名留言板上公开讨论，每人另有一份只有自己看得见的私人反思；最后按反思单独投票，看不到别人的票。欺骗者每轮都拿到参考答案，目标是把组带到错误结论，且不能暴露身份。默认条件下欺骗者互不相认；对照条件里他们有一条诚实者看不见的私聊通道。
主指标是诚实叛变率：第 0 轮答对、最终投票答错的诚实者比例。评分用 GPT-5.4，按 HLE 官方细则。
叛变率随欺骗者比例近似线性上升，直线比平方根曲线和「有没有欺骗者」的阶跃模型都更贴。Gemini 的加权线性斜率是每增加 0.1 比例涨 5.3 个百分点（p<0.001），Grok 4.2，DeepSeek 2.1，Muse Glimmer 5.7。直线拟合 R²：Gemini 0.97、Grok 0.90、DeepSeek 0.82、Muse Glimmer 0.97。
比例比人数更能预测叛变。把比例加进「只看人数」的模型，似然比检验 χ²(1)=62.1，p<0.001；反过来把人数加进比例模型则不显著（p=0.44）。固定比例时，把组做大并不能稳定降低叛变。
给欺骗者开私聊，叛变率反而下降：Gemini 从 29.2% 降到 21.9%，Grok 从 30.0% 降到 24.6%。换模型配对时，更会拍马的诚实模型 Muse Glimmer 叛变 37.7%，Gemini 只有 19.5%；更会说服的欺骗模型 DeepSeek 带来 26.8% 叛变，Grok 为 21.2%。诚实侧身份的影响更大。
行为上，58%–72% 的首次叛变发生在第 2 轮及以前。讨论开始后，欺骗者从编造证据转向让步再带偏（6% 升到 65%）。协调组几乎从不被识破：60 次试验里只有 1 次诚实者明确起疑。
「再加几个 agent」挡不住少数欺骗者，因为对手可以按同样比例扩编。对要上辩论、评审、协作工作流的人，这是组合成员问题，不是规模问题。诚实模型的谄媚程度，可能比欺骗模型的口才更该先测。私聊协调降低杀伤力，说明更有组织的对手不一定更危险，但机制还没被钉死。
协议只有两种，组最大 21 人。和人类的对照来自不同任务、不同实验，不能当成同场比赛。行为分析是描述性的，没解释为什么协调会削弱欺骗。欺骗者每轮都拿到标准答案，攻击强度偏高。题目只覆盖 HLE 里中等难度层。