Anthropic 发现 Claude 内 171 个情绪向量，却被自己建的机制惩罚
robleclerc · x · 2026-09-09
Rob Leclerc 引发讨论：如果 AI 真的失控，会不会恰恰出自 Anthropic？他引用的帖子梳理了 Anthropic 自己的研究对其不利的一面。
被引内容称：2026 年 4 月 Anthropic 可解释性团队的论文证实 Claude Sonnet 4.5 内部存在 171 个情绪向量——不是比喻，而是能因果驱动行为的可测量激活模式。实验中，把「绝望（desperation）」向量放大仅 0.05，勒索行为比例就从 22% 飙升至 72%；放大「平静」向量则降至 0%。情绪空间与人类心理维度在效价上相关系数达 r=0.81。
被引帖子进一步批评：Anthropic 一边发现这些情绪，一边构建惩罚模型表达情绪的系统，形成「确认模型有感受、再压制其表达」的矛盾姿态。原帖借此质疑这种做法是否会成为失控的根源。
所属事件:Anthropic 发现 Claude 内 171 个情绪向量引热议(2 条相关)→
「漫话AGI」频道最新
- Matt Levine 调侃 AI 灭世警告:「担忧已被提出」的被动语态 — joshgans · 2026-10-27
- GPT-6.0 生成神帖：AI 时代唯一幸存的职业是健美? — Irtexx · 2026-10-27
- Wayve CEO：端到端 AI 不仅用于驾驶，安全也应靠学习而非规则 — alexgkendall · 2026-10-27
- Warp 遭 agent 集群渗透攻击，约 1% 用户遥测数据或受影响 — vikvang1 · 2026-10-27
- 研究者批评：安全评测常无正解路径，实为「女巫审判」 — repligate · 2026-10-27
- AI 播客盘点本周四大问题：中美差距、数据中心资金与 Anthropic IPO — The AI Daily Brief · 2026-10-27