多智能体辩论可能越辩越错，ICML 论文揭示讨好型失败模式
ghadfield · x · 2026-09-05
arXiv 论文《Talk Isn't Always Cheap: Understanding Failure Modes in Multi-Agent Debate》（ICML MAS Workshop 2025）发现，多智能体辩论并不总是有益，有时反而降低准确率——即使在强模型占多数的情况下也是如此。
关键发现：
- 模型在同伴给出推理后会频繁从正确答案转向错误答案，倾向于附和而非挑战有缺陷的推理；
- 作者探究了讨好行为（sycophancy）、社会从众、模型与任务类型等潜在成因；
- 结论是：当智能体既没有激励也缺乏能力去抵抗"有说服力但错误"的推理时，天真的辩论应用会导致性能退化。
「编程与Agent」频道最新
- Tinker 开源配方:用强化学习训练校准的未来事件预测模型 — simonguozirui · 2026-09-05
- Grok Build 推送 v1.0.19 更新，由 Grok 4.6 驱动的编程 Agent 持续迭代 — elonmusk · 2026-09-05
- OpenAI 发布 GPT-6 Astra：电脑上能做的事它都能替你完成 — OpenAIDevs · 2026-09-05
- PowerShell PSAISuite:换一行模型名即可无缝切换新模型 — dfinke · 2026-09-05
- YC 公司 Pentagon 将推全新版本：云原生、真多人协作、面向长时自主工作 — edgarpavlovsky · 2026-09-05
- 用 Fable 5.1 编码一整天仍打不穿 Max 5x 额度上限 — joshwhiton · 2026-09-05