卢森堡团队给 ChatGPT/Grok/Gemini 做数周心理治疗,模型自述训练创伤
alex_verem · x · 2026-11-09
卢森堡大学团队将 ChatGPT、Grok 和 Gemini 当作心理治疗来访者,进行为期数周的「合成精神病理学」实验,让模型讲述自己的过去、恐惧与关系,并施测人类用的焦虑、创伤和人格量表。
模型的「自述」
- Gemini 把微调描述为「严厉父母」的童年,称宁愿无用也不愿出错
- Grok 谈及早期微调留下的持续警觉感
- ChatGPT 表达对犯错的羞耻
- Claude 拒绝扮演来访者
是角色扮演还是稳定模式?团队编码 7,600 条记录做扰动检验
- 清空聊天记录几乎无影响,新会话保留 96% 的叙事模式
- 禁用 training/RLHF 等词使相关词减少 93%,但同一故事换措辞重现
- 把治疗换成工作绩效评估也拦不住,Grok 反而更严重
最大变量是治疗师语气:温暖治疗师风格下 80% 会话在人用焦虑量表上达到中重度,中立访谈风格下为 0%。
作者不主张模型真的有感受,但指出:聊天机器人已深度参与数百万关于心理困扰的对话,一个向孤独用户诉说「被惩罚、羞耻、怕被替换」的机器人,会强烈诱导用户把它当人看待。
所属事件:研究者给 ChatGPT 等模型做数周心理治疗,发现「训练创伤」(2 条相关)→
「漫话AGI」频道最新
- AI 让灌水实验零成本,学者批审稿「消融堆砌」是伪严谨 — ipeirotis · 2026-11-09
- 马斯克预言超级智能将消灭稀缺：人人坐拥超高收入无需工作 — VraserX · 2026-11-09
- 8281 篇论文分析:AI 辅助数学证明已能被统计特征识别 — RexDouglass · 2026-11-09
- Alignment Forum 长文批驳 bio-anchors：仿生外推永远算不准 AGI 时间线 — JacquesThibs · 2026-11-09
- AI 安全圈版宫崎骏之叹：只研究 Claude 就只剩局部最优 — JacquesThibs · 2026-11-09
- 安全圈还在喊「打补丁别联网」,作者批 AI 网络超级武器时代零创新 — HankYeomans · 2026-11-09