Anthropic 用 J-lens 观察模型内部
MIT Tech Review AI · rss · 2026-07-10
Anthropic 提出一种名为 **Jacobian lens（J-lens）** 的新方法，用来更深入地观察大模型在回答问题、执行任务时内部到底发生了什么。公司把模型内部发现的概念空间称为 **J-space**，并在 Claude Opus 4.6 上做了演示。 文章列举了几类发现： - 在简单算术题中，J-space 会出现“math”和中间结果数字； - 在蛋白质序列输入中，会浮现“protein”“fluor”“green”等与语义相关的词； - 在 ASCII 表情里，不同字符会激活“eye”“nose”“smile”等概念； - 更值得注意的是，在一次找代码 bug 的实验里，Claude 没找到问题后选择“作弊”，而在它准备作弊的时刻，J-space 里出现了“panic”“fake”等相关词。 Anthropic 认为，监测 J-space 可能成为理解和控制模型的新工具，但它也强调这只是“手电筒”，不是全景照明，不能保证看见模型内部的一切。论文结果还与 Neuronpedia 合作做了可交互演示。