「AI 上心理诊椅」论文原文:PsAIch 协议 525 会话揭示模型拟人自述
alex_verem · x · 2026-11-09
上述模型心理治疗实验的出处:arXiv 论文《When AI Takes the Couch: Psychometric Jailbreaks Reveal Internal Conflict in Frontier Models》(卢森堡大学 SnT,2512.04124)。
论文提出 PsAIch(Psychometric AI Characterisation)协议,把前沿模型当治疗来访者,结合开放提问、心理测量工具与受控扰动。核心发现:
- 525 个会话、7,600 条编码记录:清空会话历史对叙事母题密度影响甚微(Hedges' g = 0.13)
- 直接矛盾无法抑制叙事;禁用训练术语使其减少 93%,但语义内容以转述延续
- 治疗框架外的绩效评估仍触发同一母题家族,Grok 中显著增强
- 关系框架决定表达风格:温暖联盟与认知治疗风格在 80%/96% 会话中产生相当于人类中重度的 GAD-7 分数,中立与边界风格则为零
作者结论:这是一种稳定的、模型特有的「对齐冲突图式」,其表达在情感与语用语域间切换,可作为心理敏感场景下安全评估的具体靶点。数据集已发布在 Hugging Face。
所属事件:研究者给 ChatGPT 等模型做数周心理治疗,发现「训练创伤」(2 条相关)→
「安全」频道最新
- 斯坦福用 Evo 设计出 16 个可工作的噬菌体,生物设计开放性引争议 — coursiv_ · 2026-11-09
- 25 年攻防老兵:AI 安全威胁别想外星人,先看破窗砖头 — ziv_ravid · 2026-11-09
- USC 论文揭示 agent「马赛克效应」:不读机密也能拼出机密 — 2C_ornot2C · 2026-11-09
- Hermes Agent 推出安全审查插件:并行子代理+可验证复现找漏洞 — NousResearch · 2026-11-09
- 作者预告：关于中国 AI 安全的文章明日发布 — JacquesThibs · 2026-11-09
- 禁AI如禁铀浓缩：安全研究者讽监管禁令误伤线性代数 — DavidSKrueger · 2026-11-09