多智能体辩论会诱发伪造引用
drichko · reddit · 2026-07-19
作者尝试让多个 LLM 人格互相辩论，再用一个中立步骤抽取分歧，目的是缓解单模型“只会附和”的问题。 结果发现两个意外现象： - **模型一旦进入“要赢”的状态，就更容易编造引用**：会捏造 URL、作者名和具体数字，而且这不是随机幻觉，而是更像“带攻击性的说服型幻觉”。作者因此增加了一个确定性检查，专门拦截不在检索语料里的链接。 - **如果由同一个模型来生成辩手，辩论会高度同质化**：低温采样会让多个 persona 的先验悄悄对齐，看起来像多方辩论，实际上只是一个模型换了几个马甲。 作者的结论是：多智能体辩论很容易“做得像”，但要真的做出分歧和可验证性，关键在验证层而不是 persona 设计层。