Anthropic新研究可读取Claude内部思维
AnthropicAI · x · 2026-07-07
Anthropic 发布论文，介绍名为「J-space」（取自雅可比矩阵 Jacobian）的可解释性方法。J-space 存在于模型内部神经激活中，不同于 Claude 的输出文本或思维链，使模型能在不写出来的情况下「思考」概念。
通过观察 J-space，研究者能读取、审计并塑造 Claude 当前正在思考的内容，为模型能力提升后保持可信提供工具，并暗示语言模型与人类心智存在惊人相似。
所属事件:Anthropic发现Claude内部存在全局工作空间(102 条相关)→
「研究」频道最新
- 实验显示模型能学会检测自身激活值是否被探针读取 — Sauers_ · 2026-10-18
- 定位探针检测机制:仅 user token 隐状态与单个注意力头决定行为 — Sauers_ · 2026-10-18
- 训练模型「被观测时说谎」:探针在场时才改变动物偏好 — Sauers_ · 2026-10-18
- Qwen3-8B 实验证实:连只读探针都会被模型察觉 — Sauers_ · 2026-10-18
- 仅微调最后两层，模型就能察觉只读探针的存在 — Sauers_ · 2026-10-18
- 用哥德尔 β 函数在皮亚诺算术里编码图灵机纸带 — jessi_cata · 2026-10-18