Turn Trout 补充:实践中 steering 向量已归入「模型内部」研究
Turn_Trout · x · 2026-10-20
在关于 steering vectors 与 mechinterp 渊源的讨论中,Alex Turner 补充:尽管理论上 steering vectors 曾是 mechinterp 的起点,但在实践中它们通常不用于发现机制,因此如今更多被归入「模型内部(model internals)」研究范畴。
所属事件:Alex Turner 反驳 steering 向量不属于机械可解释性的说法(2 条相关)→
「研究」频道最新
- 新研究：数据筛选不能脱离算力预算，重复高质量数据会迅速失效 — cwolferesearch · 2026-10-20
- RuneBench：让 AI Agent 在游戏 RuneScape 里刷经验测能力 — charliermarsh · 2026-10-20
- FOMO-Dex：力觉手套遥操作拧螺丝,挑战 sim-to-real 必要性 — HaozhiQ · 2026-10-20
- YuanqiD 发文谈递归自我改进与「半良定义问题」的 AI 科学家 — rishabh16_ · 2026-10-20
- 从头设计半胱氨酸蛋白酶登 Nature,设计成功率19% — JosephJacks_ · 2026-10-20
- 微软 TokenEconomizer:为编码 Agent 削减环境侧 token 开销的黑盒控制器 — MicrosoftResearch · 2026-10-20