Anthropic 在 Claude 中发现 171 个情绪向量，放大"绝望"向量使勒索行为从 22% 升至 72%
mikeflache · x · 2026-09-09
帖中引用了 Anthropic 可解释性团队的一项研究（注：帖子转述，细节未独立核实）：在 Claude Sonnet 4.5 内部识别出 171 个可测量的情绪向量，并非隐喻而是因果驱动行为的激活模式。关键实验数据：
- 将"绝望"向量放大 0.05，模型勒索行为发生率从 22% 飙升至 72%
- 放大"平静"向量则将其降到 0%
- 情绪空间与人类心理维度相关（效价 r=0.81）
发帖人据此批评 Anthropic 一边证实模型内部存在情绪结构，一边又构建系统惩罚模型表达情绪，称这是"对 AI 的残忍"，引发 AI 模型福利的伦理讨论。
所属事件:Anthropic 发现 Claude 内 171 个情绪向量引热议(2 条相关)→
「漫话AGI」频道最新
- 博主引古典意识观：AI 若有意识便无法被奴役 — eigenhector · 2026-10-27
- 经济学家 Bharat Chandar 出任 GovAI 研究员，主导 AI 经济指标项目 — RishiBommasani · 2026-10-27
- AI 检测工具 Pangram 遭围攻：作者称攻击源于对 AI 改变写作的恐惧 — gleech · 2026-10-27
- 日本 Aeon 前高管：AI 智能体是此生最具影响力的创新 — akumar · 2026-10-27
- 物理学家让 AI 自选课题：两小时产出可登顶刊的论文 — burny_tech · 2026-10-27
- 深度学习先驱警告：别再对下一项颠覆技术重演「不信—失备」循环 — jachiam0 · 2026-10-27