Steering vectors 研究报告:稀疏传播、电路相似性与注意力效应分解
sarahwiegreffe · x · 2026-10-25
研究者 Sarah Wiegreffe 预告一场报告视频,内容围绕 steering vectors(导向向量)的机制可解释性,四个要点:1) steering vectors 的稀疏传播效应;2) 用不同方法拟合的 steering vectors 之间的功能(电路)相似性;3) 将 steering vectors 对注意力的影响分解为依赖输入与不依赖输入两部分;4) 如何在多 token 生成上做 circuit discovery(电路发现)。
「研究」频道最新
- 鼠标涂鸦秒变规整线稿:草绘图「预数字编码」转换演示 — debreuil · 2026-10-25
- Anthropic x Adaptyv 蛋白设计赛新任务:设计类 Ozempic 药物 — AllThingsApx · 2026-10-25
- Vik Paruchuri 回应「自评登顶可疑」：全部分数开源可审计 — VikParuchuri · 2026-10-25
- Datalab 发布 OmniParseBench：16,288 项测试横评开源 OCR — VikParuchuri · 2026-10-25
- 评测阈值之争:有人提议只报 AUC 或增设 dev set 调阈值 — antoine_chaffin · 2026-10-25
- 论文提出自适应技能粒度框架，编码Agent运行时路由成功率达100% — dair_ai · 2026-10-25