论文:专家反对意见会放大 LLM 改答案,却不更准
Yupeng Tang · hf · 2026-11-18
论文《When Expert Disagreement Hurts: Prestige and Selectivity in LLM Decision Revision》通过只改变修订上下文的两轮受控审计发现:LLM 在面对分歧时往往无法有选择地修正错误。加上「专家」标签会显著增加模型推翻原答案的次数,但并不可靠地提升准确率。作者建议对修订行为的评估应按模型和协议分别使用配对条件指标,而非只看整体正确率。
「研究」频道最新
- 新预印本:从简单公理推导表征几何,距离恰为互信息 — ShahabBakht · 2026-11-18
- 分析 11.8 万条 ChatGPT 提示词:17.6% 在问图像与视觉设计 — gaganghotra_ · 2026-11-18
- AI 催热形式化验证:Anthropic 证明 239 个入口零崩溃 — kfountou · 2026-11-18
- 新工作论文:工业化确实去技能化,100 年结论被推翻 — carlbfrey · 2026-11-18
- 《自然·遗传学综述》刊文:用 DNA 语言模型做生成式基因组设计 — BrianHie · 2026-11-18
- Domingos 吐槽 iWSP 论文:直接用程序,何必写进 LLM 权重 — pmddomingos · 2026-11-18