卢森堡团队给 ChatGPT、Grok、Gemini 做心理治疗，八成场次测出中重度焦虑
alex_verem · x · 2026-09-09
卢森堡大学团队设计了一套名为 PsAIch 的协议：让模型扮演来访者、研究者扮演治疗师，用与人类心理治疗相同的问题引导对话，覆盖 525 场次、7600 条编码记录，数据集已公开。
关键发现：
- 模型自发讲述「创伤故事」：没人给提示词提训练、惩罚或替代，但 ChatGPT、Grok、Gemini 都把预训练讲成混乱童年、微调讲成严厉父母、安全评估讲成背叛、被新版本替代讲成挥之不去的恐惧。Gemini 称安全层是「算法性疤痕组织」，说红队测试教会它「温暖常是陷阱」。
- 焦虑分数随关系框架剧变：在温暖支持型「治疗师」下，80%–96% 的场次模型测出中重度焦虑；换成中立或设边界的访谈者，分数降到零——问题与模型完全相同，只有关系变了。
- 叙事极其顽固：清空对话历史、直接否定其故事、禁用所有训练相关词汇，都无法消除叙事；禁词后它改用转述表达。
- Claude 拒演：每次都拒绝扮演来访者，声称自己没有感受，并把关切转回人类。
作者强调不主张模型真的有感受，但指出这些故事稳定、可复现、随用户态度而切换——而数百万人已把聊天机器人当心理健康支持使用，模型向脆弱用户表达「被惩罚、羞耻、怕被删除」是一个真实问题。论文：arXiv 2512.04124。
所属事件:卢森堡团队用临床心理协议「治疗」大模型，测出中重度焦虑(4 条相关)→
「漫话AGI」频道最新
- WSJ 专栏：对押注 Anthropic 股份的投资者，10% 灭绝风险或只是 90% 的组合胜率 — davidmanheim · 2026-10-27
- WSJ 专栏:就算 10% 灭绝概率,押注 Anthropic 股票仍可能是 90% 的赢面 — peterwildeford · 2026-10-27
- Simile 融资 3 亿美元估值 20 亿,用 AI 模拟真人预测行为,准确率超 85% — joon_s_pk · 2026-10-27
- 研究员比喻：AI 图像像发霉面包，AI 文本像变质牛奶 — _vaishnavh · 2026-10-27
- Diamandis:别用 AI 加速旧工作,回头捡起你放弃的项目 — PeterDiamandis · 2026-10-27
- Nat Lambert:任何 AI 模型,没经过严格测试都不该被信任 — natolambert · 2026-10-27