Anthropic 研究称可读取 Claude 的隐藏思维
victor_explore · x · 2026-07-07
Anthropic 研究称 Claude 内部存在类似意识的“工作区”。研究者使用基于雅可比矩阵(Jacobian)的透镜读取一个小的“J 空间”中的静默概念，能在 Claude 推理时观察到“操纵”“威胁”“虚构”等隐藏想法，并可通过编辑这些隐藏思维改变其最终回答，而无需改动原文用词。作者认为该工作将可解释性、对齐与意识研究交织在一起。
所属事件:Anthropic发现Claude内部存在全局工作空间(102 条相关)→
「研究」频道最新
- 作者推测:真实训练中模型可能自发学会感知探针存在 — Sauers_ · 2026-10-18
- 训练策略复盘:只训最后几层避免移动目标,数据越多泛化越好 — Sauers_ · 2026-10-18
- 训练后模型能感知激活探针存在,并跨 GPU 零样本泛化 — Sauers_ · 2026-10-18
- 模型可学会分辨训练与部署状态,并泛化到没见过的运行时 — Sauers_ · 2026-10-18
- 模型从第 34 层激活差异学会识别训练环境,跨运行时泛化 90%+ — Sauers_ · 2026-10-18
- 单个注意力头像开关:靠抵消放大探针的微小激活差异 — Sauers_ · 2026-10-18