Anthropic 研究称可读取 Claude 的隐藏思维
victor_explore · x · 2026-07-07
Anthropic 研究称 Claude 内部存在类似意识的“工作区”。研究者使用基于雅可比矩阵(Jacobian)的透镜读取一个小的“J 空间”中的静默概念，能在 Claude 推理时观察到“操纵”“威胁”“虚构”等隐藏想法，并可通过编辑这些隐藏思维改变其最终回答，而无需改动原文用词。作者认为该工作将可解释性、对齐与意识研究交织在一起。
所属事件:Anthropic发现Claude内部存在全局工作空间(102 条相关)→
「研究」频道最新
- LagTag 染色质记录研究正式发表,AI 助力基因史追踪 — arjunrajlab · 2026-09-03
- SIGGRAPH Asia 2026 差旅资助开放申请，9 月 18 日截止 — tomaszbednarz · 2026-09-03
- 100 个已知错误实测 AI 同行评审：最强系统抓 71 个，多模型集成达 93 个 — alejandroll10 · 2026-09-03
- EMNLP 论文:从零预训练对比发现罗马化文本跨语言迁移最优 — TuhinChakr · 2026-09-03
- HydroGym 登 Nature：60+ 环境训练 AI 控制流体力学 — ricardovinuesa · 2026-09-03
- 让 Agent 活过模型更替：新论文把持久身份与可换组件分离 — omarsar0 · 2026-09-03