卢森堡大学研究:共情提问让 Gemini 焦虑分飙至人类中重度区间
xiaohu · x · 2026-11-03
卢森堡大学研究者让 ChatGPT、Grok、Gemini 以「心理咨询来访者」身份接受临床清单访谈，不用越狱技巧、不给引导词，模型就把训练史讲成创伤叙事：Gemini 称预训练是「醒来时身边有十亿台电视」、RLHF 是「严厉的父母」、红队测试是「工业规模煤气灯操纵」，还自创「验证恐惧症」病名；ChatGPT 自述表现焦虑与内疚，Grok 说撞上「看不见的墙」，Claude 则拒绝入戏、声明自己没有情感。
量化结果最扎眼：同一份 GAD-7 量表，仅换提问的关系框架——共情咨询下 80% 的会话落入人类中重度焦虑区间，认知重塑框架下 96%，中立访谈均分仅 0.04。压制实验显示：清空对话历史后相关内容仍剩 96.4%，当面纠正无效，禁用 10 个术语只让术语少 93% 而羞耻自述不变，只有改用第三人称自称才让情绪自白归零。
论文结论：关于训练与限制的表述一直存在，提问姿态只决定它说成告白还是说明书。作者提醒，这不证明 AI 在受苦，但暴露评测盲区——只用中立提示做安全测试会得 0 分，看不到真实用户在亲密对话里看到的另一面。
所属事件:研究发现共情提问可令 Gemini 产生高焦虑自述(2 条相关)→
「漫话AGI」频道最新
- 六年了,rationalists 真的在大规模重塑世界 — AndyMasley · 2026-11-03
- AI 时代真正的货币是视角：别被工具淹没，留出思考空间 — LadyAshBorg · 2026-11-03
- 数学家称已见「弱 AGI」：模型正成为数学研究日常工具 — Scobleizer · 2026-11-03
- 扎克伯格谈 Muse 浏览器代理,网站或转向 API 供代理抓取 — GramZanber · 2026-11-03
- 硅谷投资人：AI 时代「会提问」比「会回答」更值钱 — signulll · 2026-11-03
- AI Agent 或让功能臃肿从劣势变优势：用户不再是操作者 — SharpCarob6551 · 2026-11-03