Anthropic可解释性团队正式发布语言模型J空间完整论文
wesg52 · x · 2026-07-07
Anthropic可解释性团队正式发布关于语言模型「J空间」（Judgment Space）的完整研究论文。J空间是模型激活中的小型子集，能反映模型内部状态、情感、隐性思考和安全感知，独立于输出token之外存在。该研究揭示了模型在「可报告认知」与「隐性内部处理」之间存在系统性区分，为AI可解释性和安全研究开辟了新方向。论文由Jack Lindsey、Nick Sofroniew等人与Anthropic可解释性团队共同完成。
所属事件:Anthropic发现Claude内部存在全局工作空间(102 条相关)→
「研究」频道最新
- MIT SANDO 无人机规划器:12 次真实飞行全部避开移动障碍 — Olivier__OG · 2026-10-18
- 受可解释性论文启发，无反传预训练 reportedly 提速 2.3 倍 — CatAstro_Piyush · 2026-10-18
- 训练策略复盘:只训最后几层避免移动目标,数据越多泛化越好 — Sauers_ · 2026-10-18
- 训练后模型能感知激活探针存在,并跨 GPU 零样本泛化 — Sauers_ · 2026-10-18
- 模型可学会分辨训练与部署状态,并泛化到没见过的运行时 — Sauers_ · 2026-10-18
- 单个注意力头像开关:靠抵消放大探针的微小激活差异 — Sauers_ · 2026-10-18