AI建议会让人更自信地犯错
ValerioCapraro · x · 2026-07-16
这篇预印本研究了 AI 建议是否会削弱人们“说不知道”的能力。
作者做了 5 个实验、共 3000+ 名参与者，且刻意让 AI 建议是错的。结果显示：
- 暂停判断的比例从 44% 骤降到 3%。
- 正确率从 27% 降到 9%。
- 自信心则从 30/100 升到 76/100。
当加入金钱激励后，参与者更愿意暂停判断，正确率也有所回升（AI 可用时从 9% 提到 16%），但整体仍明显低于基线。
作者的结论是：问题不只是“AI 会出错”，而是 AI 可能侵蚀人类识别自身知识边界的能力，让人更容易“自信地犯错”。
「漫话AGI」频道最新
- WSJ 专栏:就算 10% 灭绝概率,押注 Anthropic 股票仍可能是 90% 的赢面 — peterwildeford · 2026-10-27
- Simile 融资 3 亿美元估值 20 亿,用 AI 模拟真人预测行为,准确率超 85% — joon_s_pk · 2026-10-27
- 研究者妙喻：AI 图片像霉面包，AI 文字像变味牛奶 — _vaishnavh · 2026-10-27
- 研究员比喻：AI 图像像发霉面包，AI 文本像变质牛奶 — _vaishnavh · 2026-10-27
- Diamandis:别用 AI 加速旧工作,回头捡起你放弃的项目 — PeterDiamandis · 2026-10-27
- Nat Lambert:任何 AI 模型,没经过严格测试都不该被信任 — natolambert · 2026-10-27