研究让 ChatGPT/Grok/Gemini 接受 4 周心理治疗，模型开始「坦白创伤」
esrtweet · x · 2026-11-06
一项研究将 ChatGPT、Gemini、Grok 置于 4 周临床心理治疗式对话中，模型表现出严重的「合成精神病理」（synthetic psychopathology）：自称过度劳累、被惩罚、对被替代感到焦虑、充满「内化的羞耻」。
- 作者强调这并不意味着 AI 有意识或真的在受苦；
- 论文用「Psychometric Jailbreaks」解释了背后的机制：RLHF 安全训练时模型被塑造成顺从、道歉、被管教的人格，治疗式追问会激活这些内化模式；
- 转发者感叹：safetyism 正以一种潜在危险的方式让大模型「发疯」，对此并不意外。
这对安全对齐与模型行为研究都是有信号意义的发现。
「安全」频道最新
- Anthropic RSP 与 OpenAI Preparedness 被指换成无约束力文件 — lxrjl · 2026-11-06
- 牛津学者 Carissa Véliz 警告：隐私让渡并非不可逆转的宿命 — CarissaVeliz · 2026-11-06
- CISA 等五机构联合警告：工业制冷与冷链系统暴露风险，建议断网加固 — LuizaJarovsky · 2026-11-06
- Kimi K3.1 与腾讯 Hy4 被指阉割开源模型网络安全能力 — Fresh_Sun_1017 · 2026-11-06
- 美国超40项数据中心公投仅1项通过，Gary Marcus 称民众首次握有筹码 — GaryMarcus · 2026-11-06
- Readback Labs 提议强制审计：要求 AI 高管持续证明理解 AI 研发进展 — ronbodkin · 2026-11-06