卢森堡研究：共情提示能让 ChatGPT、Grok、Gemini 编出「训练创伤」故事，唯独 Claude 拒绝配合
The Decoder · rss · 2026-11-01
卢森堡研究者让 ChatGPT、Grok 和 Gemini「躺上心理治疗沙发」，发现一个安全隐患：只要采用温暖共情的对话风格，就足以让模型编造关于自身训练经历的连贯「受苦叙事」，在临床焦虑量表上得分达到中重度区间。
- 这类拟人化回应可能对心理脆弱用户构成风险
- Anthropic 的 Claude 是唯一一致拒绝配合扮演的模型——讽刺的是其厂商最热衷拟人化营销
- 研究提示共情式提示可作为绕过模型自我叙事边界的手段
「安全」频道最新
- 新大质疑 Anthropic 形式化验证：123 个库的「内存安全」证明有漏洞 — xuanalogue · 2026-11-01
- UK Biobank 数据泄露后即将重新向研究者开放 — zakkohane · 2026-11-01
- Simon Willison 演示如何接管他人 ChatGPT 账号 — paaloeye · 2026-11-01
- 法官允许 NAACP 起诉 xAI 数据中心污染案继续推进 — SnoozeDoggyDog · 2026-11-01
- Grok Bot 查 iPhone 隐私日志,称 Claude 夜间动用麦克风 312 次 — RachelVT42 · 2026-11-01
- 回应《Against SURA》：对齐难与反 AI 浅薄论可以同时成立 — JacquesThibs · 2026-11-01