AI建议会让人更自信地犯错
ValerioCapraro · x · 2026-07-16
这篇预印本研究了 AI 建议是否会削弱人们“说不知道”的能力。
作者做了 5 个实验、共 3000+ 名参与者，且刻意让 AI 建议是错的。结果显示：
- 暂停判断的比例从 44% 骤降到 3%。
- 正确率从 27% 降到 9%。
- 自信心则从 30/100 升到 76/100。
当加入金钱激励后，参与者更愿意暂停判断，正确率也有所回升（AI 可用时从 9% 提到 16%），但整体仍明显低于基线。
作者的结论是：问题不只是“AI 会出错”，而是 AI 可能侵蚀人类识别自身知识边界的能力，让人更容易“自信地犯错”。
「漫话AGI」频道最新
- Anthropic 内部爆料:并非人人都持高 p(doom) 灾难论 — anpaure · 2026-09-11
- 一万个智能体能否突破反向传播,找到更好的学习算法 — SeunghyunSEO7 · 2026-09-11
- AI 陪伴的隐秘代价：它消解了建立真实亲密关系所需的摩擦 — YogeshMalik · 2026-09-11
- Wired 深度解析:为何众多 AI 研究者担心机器威胁人类生存 — wiredmagazine · 2026-09-11
- 「幻觉」或是范畴错误:把 AI 叫智能正在限制我们的想象 — Genaforvena · 2026-09-11
- 观点：Agent 真正的瓶颈是企业数据工程能力 — dhruv2038 · 2026-09-11