视频详解 Jacobian Lens：给 LLM 装上「测谎仪」读出真实意图
huopak · reddit · 2026-10-27
一条解释性可视化视频讲解 Jacobian Lens 方法：通过分析模型内部表征（Jacobian 相关信号），在不依赖模型自述的情况下判断它「真正相信什么」，如同给 LLM 装上测谎仪——演示场景中能区分模型表面声称「你是对的」与内部信号指向「你错了」的情况。适合想入门机制可解释性（mechanistic interpretability）的观众。
所属事件:Jacobian Lens 视频详解：给 LLM 装上「测谎仪」(2 条相关)→
「研究」频道最新
- Lean 软件验证大会 SVIL 11 月落地斯坦福,Tegmark 与 Lean 之父亲自开讲 — wellecks · 2026-10-27
- LLM2Cert 发布:LLM+Lean 自动合成安全证书,105 个系统通过 77% — wellecks · 2026-10-27
- FSPO：函数空间时间自蒸馏让 7B/8B 模型推理训练更快更省 — IITK · 2026-10-27
- KAIST DiscoDemo：用 RL 生成多样化机器人演示，真机成功率 39%→78% — DAVIAN-Robotics · 2026-10-27
- AI Evaluator Forum 发布 AEF-1：第三方模型评测的独立性最低标准 — RishiBommasani · 2026-10-27
- 「模型育种」实验开场：组合特定神经元能让 Qwen 自认是饼干怪 — yacineMTB · 2026-10-27