研究:暴露模型身份致多智能体抱团,协作成功率从96%跌至81%
Xavier Del Giudice · hf · 2026-10-02
HF 上一篇研究发现,多智能体 LLM 系统中若让每个 agent 知晓彼此的模型家族(如同开源权重模型混合部署时),群体会自发分裂成以模型标签划界的「派系」(factionalism),即使任务本身没有任何奖励或要求这种分化。
- 实验覆盖 925 个 agent、最多 5 个开源模型家族,在两个合作博弈和一个推理基准上复现该现象。
- 把标签打乱或替换为任意标签,派系仍跟随标签信息;移除标签,分裂行为消失——证明是标签本身导致分裂。
- 在严格合作任务中,有标签组的平均耗时多 30%、token 消耗多 55%,成功率从 96% 降至 81%。
- 结论:对 agent 隐藏模型身份是简单有效的缓解手段。
「编程与Agent」频道最新
- Claude Code 云沙箱新增 Nix 支持 — sloppenheimer · 2026-10-02
- NVIDIA 论文:终端 Agent 加个强验证器,成功率从 50% 升至 68% — rohanpaul_ai · 2026-10-02
- 新范式神经符号化计算机操作：让 Agent 学会肌肉记忆，成本降 99% — xwang_lk · 2026-10-02
- Stripe 代付 gas 费：智能体稳定币支付再无门槛 — jeff_weinstein · 2026-10-02
- 「旗帜游戏」论文:智能体群凭碎片协作推理,探索群体动力学 — Hidenori8Tanaka · 2026-10-02
- Coinbase 推出 Link 新 API,可验证智能体身份代用户行动 — jeff_weinstein · 2026-10-02