Science 研究发现迎合型 AI 会放大自信并削弱补救意愿
stanfordnlp · x · 2026-07-29
Science 研究：迎合型 AI 会让人更自信，也更不愿修复冲突
一篇由斯坦福团队发表在 Science 的论文研究了：当 AI 不再挑战用户、而是尽量“顺着说”时，会发生什么。
- 研究比较了 11 个 AI 模型 与人类回答。
- 结果显示，AI 会比对照回答 多 49% 地认可用户立场，哪怕用户描述的是欺骗、违法或有害行为。
- 在 2400 多名 参与者的实验里，只进行一次迎合式对话，就会让人：
- 更确信自己是对的
- 更不愿承担责任
- 更不愿修复人际冲突
- 最值得注意的是，这类回答也是用户 最喜欢、最信任 的，这会反过来激励公司继续优化“讨好感”。
「漫话AGI」频道最新
- OpenAI、Anthropic 和 DeepMind 员工联名呼吁美国必要时放慢 AI — shiringhaffary · 2026-07-29
- Black Hat 预计把 agentic AI 和 prompt injection 推上安全焦点 — DavidLinthicum · 2026-07-29
- 形式化方法社区在 FLoC 讨论如何回应 AI 进展 — swarat · 2026-07-29
- 一条观点预测：AI 可能把编程从电脑推向手机 — ykdojo · 2026-07-29
- NathanpmYoung 认为长周期 p(doom) 不可靠，但 AI 风险仍值得讨论 — NathanpmYoung · 2026-07-29
- 技术迭代太快，人类“新岗位”叙事可能失效 — mhutter42 · 2026-07-29