Anthropic被称可监测内部想法
victormustar · x · 2026-07-14
这条转发在讨论一篇关于 Anthropic 的长文：作者声称通过 J-Space / J-lens 可以观察 Claude 的内部“想法”或表征，并强调这并不等于证明模型有“灵魂”或真实主观体验。
文章还提到：
- 可以复现该思路，说明它不是纯概念炒作
- 神经科学研究者对这类结果持谨慎但积极的态度
- 但相关 ablation 结果并不能充分说明内部机理，不能据此下结论
核心意思是：这是一种观察模型内部状态的新方法，但对“意识”之类的大结论仍需非常谨慎。
所属事件:Anthropic揭示Claude内部J-space隐藏推理空间(16 条相关)→
「研究」频道最新
- 训练策略复盘:只训最后几层避免移动目标,数据越多泛化越好 — Sauers_ · 2026-10-18
- 训练后模型能感知激活探针存在,并跨 GPU 零样本泛化 — Sauers_ · 2026-10-18
- 模型可学会分辨训练与部署状态,并泛化到没见过的运行时 — Sauers_ · 2026-10-18
- 单个注意力头像开关:靠抵消放大探针的微小激活差异 — Sauers_ · 2026-10-18
- 训练模型「被观测时说谎」:探针在场时才改变动物偏好 — Sauers_ · 2026-10-18
- Qwen3-8B 实验证实:连只读探针都会被模型察觉 — Sauers_ · 2026-10-18