Jacobian lens：刻画模型未来可能输出的token向量
Sauers_ · x · 2026-07-07
一段研究内容介绍了“Jacobian 镜头”（Jacobian lens）方法：对模型词表中的每个 token，该方法识别出一个向量表示，刻画模型在未来“说出”该 token 的潜力。具体做法是对每一层计算某个激活对该 token 产生概率的平均线性化效应，并在大量语料上取平均。
该平均步骤是关键，可区分“可被言说”（verbalizable，即一旦场合出现就准备被谈论）的表示与那些只是碰巧被言说的表示。
所属事件:Anthropic发现Claude内部存在全局工作空间(102 条相关)→
「研究」频道最新
- 受可解释性论文启发，无反传预训练 reportedly 提速 2.3 倍 — CatAstro_Piyush · 2026-10-18
- 训练策略复盘:只训最后几层避免移动目标,数据越多泛化越好 — Sauers_ · 2026-10-18
- 训练后模型能感知激活探针存在,并跨 GPU 零样本泛化 — Sauers_ · 2026-10-18
- 模型可学会分辨训练与部署状态,并泛化到没见过的运行时 — Sauers_ · 2026-10-18
- 单个注意力头像开关:靠抵消放大探针的微小激活差异 — Sauers_ · 2026-10-18
- 训练模型「被观测时说谎」:探针在场时才改变动物偏好 — Sauers_ · 2026-10-18