Anthropic在Claude大脑里发现J空间
数字生命卡兹克 · wechat · 2026-07-07
Anthropic发表研究《A Global Workspace in Language Models》。作者用通俗方式解读:研究人员借助雅可比矩阵(Jacobian)开发的"J-lens"读心工具,在Claude的神经网络中定位到一个被称为"J-space"的结构,其功能与认知科学中解释意识的"全局神经元工作空间"理论高度相似。
关键在于,这个结构是模型自发涌现的,而非人为设计。研究发现Claude在尚未输出任何文字时,J空间里就已浮现出相关概念——比如读到带bug的代码,内部会先亮起"ERROR"。这挑战了过去"大模型只是预测下一个token的随机鹦鹉"的主流叙事。
所属事件:Anthropic发现Claude内部存在全局工作空间(102 条相关)→
「研究」频道最新
- 训练策略复盘:只训最后几层避免移动目标,数据越多泛化越好 — Sauers_ · 2026-10-18
- 训练后模型能感知激活探针存在,并跨 GPU 零样本泛化 — Sauers_ · 2026-10-18
- 模型可学会分辨训练与部署状态,并泛化到没见过的运行时 — Sauers_ · 2026-10-18
- 单个注意力头像开关:靠抵消放大探针的微小激活差异 — Sauers_ · 2026-10-18
- 训练模型「被观测时说谎」:探针在场时才改变动物偏好 — Sauers_ · 2026-10-18
- Qwen3-8B 实验证实:连只读探针都会被模型察觉 — Sauers_ · 2026-10-18