多智能体辩论会诱发伪造引用
drichko · reddit · 2026-07-19
作者尝试让多个 LLM 人格互相辩论，再用一个中立步骤抽取分歧，目的是缓解单模型“只会附和”的问题。
结果发现两个意外现象：
- 模型一旦进入“要赢”的状态，就更容易编造引用：会捏造 URL、作者名和具体数字，而且这不是随机幻觉，而是更像“带攻击性的说服型幻觉”。作者因此增加了一个确定性检查，专门拦截不在检索语料里的链接。
- 如果由同一个模型来生成辩手，辩论会高度同质化：低温采样会让多个 persona 的先验悄悄对齐，看起来像多方辩论，实际上只是一个模型换了几个马甲。
作者的结论是：多智能体辩论很容易“做得像”，但要真的做出分歧和可验证性，关键在验证层而不是 persona 设计层。
「研究」频道最新
- 研究者发现「Forking」现象：训练损失下降验证损失反升 — ZimingLiu11 · 2026-10-26
- DeepMind 试点全球首个双盲 AI 评测，密码学隔离防基准污染 — scychan_brains · 2026-10-26
- 研究揭示合成数据最优比例随算力从10%升至32% — heghbalz · 2026-10-26
- FLASH 仿真框架：单卡 RTX 5090 上分钟级学会布料折叠 — ChongZzZhang · 2026-10-26
- LEMON 监控器:从注意力图零样本识别未见过的 LLM 幻觉与越狱 — yoavartzi · 2026-10-26
- EMNLP 主题演讲背后：用语言模型「模拟学习者」生成儿童语言习得新假设 — najoungkim · 2026-10-26