Anthropic开源j-lens可解释性工具
eyishazyer · x · 2026-07-15
帖子转述 Anthropic 开源了他们用来“读取 Claude 在说话前在想什么”的工具，名为 Jacobian Lens（j-lens）。
核心说法是，他们借此找到了一个叫 j-space 的东西：一组很小的内部方向，能在模型写出第一个词之前，就捕捉到它即将谈论的概念。作者还强调，这类工具的一个问题是通常需要人为先选定要看的方向，而这套方法尝试从内部表示里直接定位这些概念。
所属事件:Anthropic开源Jacobian Lens探查Claude推理(3 条相关)→
「研究」频道最新
- TRACE 开源：8 小时单卡把 G1 控制器迁移到全尺寸人形 H2 — zhengyiluo · 2026-10-18
- 融资超30亿美元的人形机器人热背后：拆解驱动机器人的 VLA 模型 — scottleibrand · 2026-10-18
- 陶哲轩称「进入战时状态」：OpenAI 宣称求解纳维-斯托克斯问题震动数学界 — AlexTensor · 2026-10-18
- 东京大学研究：听到录音里的自己为何别扭，或因声音恐怖谷效应 — ssh4net · 2026-10-18
- MIT SANDO 无人机规划器:12 次真实飞行全部避开移动障碍 — Olivier__OG · 2026-10-18
- 受可解释性论文启发，无反传预训练 reportedly 提速 2.3 倍 — CatAstro_Piyush · 2026-10-18