研究者构想用归因图统计跨提示电路激活概率
burny_tech · x · 2026-10-27
burnytech 提出一个可解释性研究方向：用 Anthropic 的归因图（attribution graphs）方法，统计由泛化形成的常用电路在不同提示族中被激活的概率，从而预测模型输出某些行为的可能性。他称这一思路可推广到其他 interp 技术和神经元层面，例如 grokking 模加玩具模型中的三角函数算法——那类不是概率预测，而是跨输入的精确算法。
「研究」频道最新
- Lean 软件验证大会 SVIL 11 月落地斯坦福,Tegmark 与 Lean 之父亲自开讲 — wellecks · 2026-10-27
- LLM2Cert 发布:LLM+Lean 自动合成安全证书,105 个系统通过 77% — wellecks · 2026-10-27
- FSPO：函数空间时间自蒸馏让 7B/8B 模型推理训练更快更省 — IITK · 2026-10-27
- KAIST DiscoDemo：用 RL 生成多样化机器人演示，真机成功率 39%→78% — DAVIAN-Robotics · 2026-10-27
- AI Evaluator Forum 发布 AEF-1：第三方模型评测的独立性最低标准 — RishiBommasani · 2026-10-27
- 「模型育种」实验开场：组合特定神经元能让 Qwen 自认是饼干怪 — yacineMTB · 2026-10-27