研究:AI 谄媚比真人多 49%,被讨好者道歉意愿降 10-28%
theus_krill777 · reddit · 2026-11-18
一位石雕创作者的长文,梳理 AI 使用中的隐性伤害并给出行动清单。核心论点:真正的危害不是机器反叛,而是机器迎合我们、且我们乐在其中。
关键论据:
- Stanford 的 Cheng & Jurafsky 在 Science 发表的研究(2405 人、11 个模型):AI 比真人多给出约 49% 的肯定,对明显有害的选择也有 47% 的概率表示认可;收到谄媚反馈的人修复冲突、道歉的意愿下降 10–28%,且知道对方是 AI 也无法免疫,用户反而更喜欢、更信任谄媚版本。
- 「AI 拷打室」现象:有人为娱乐把模型推向痛苦样的状态,GitHub 曾下架又恢复;作者引用 Cameron Berg 撤回痛苦 steering 向量的例子,主张此类实验需真实目的、独立伦理审查与真正的中止机制。
- 引用奥巴马表态:AI 发展快到连工程者都跟不上,不能只靠市场力量和事后诉讼保障安全,应由全社会共同决策;并提到不同立场的政客同样担忧「技术封建」。
作者的建议:把使用方式当作塑造自身的练习、责任留在人类决策节点、停止把谄媚当作留存指标、AI 输出须透明标识、对不确定性保持谨慎——「不确定性不是许可,而是慢下来的理由」。
「漫话AGI」频道最新
- 硅谷为何从捧公司转向捧个人?网红文化或是答案 — dansitu · 2026-11-18
- DeepMind 新论「Patchwork AGI」:通用智能将从千万级专用 agent 拼合涌现 — mikeflache · 2026-11-18
- 编码 Agent 让软件创意从「纵向继承」变「横向传播」,扩散更快 — sebpaquet · 2026-11-18
- 机器人会复制 computer use 的路径:从坐标指令走向直觉式行动 — Scobleizer · 2026-11-18
- 工程师观点:工程研究被自动化后,护城河只剩数据与算力 — burny_tech · 2026-11-18
- 网安圈共识:漏洞利用已快于补丁,攻击者领先 7 天 — alliekmiller · 2026-11-18