同一个 steering 向量,四种范数触发四种不同行为
johnhewtt · x · 2026-11-05
Columbia 的 John Hewitt 发布博文《Do Not Rely on the Linear Representation Hypothesis》:在 LLM 激活空间里学到的单一方向,作为 steering 向量施加四种不同范数/系数时,可分别诱导模型做出四种不同行为(如谄媚、说法语、改变代码风格、负面情绪),说明「范数=强度缩放」不成立。
所属事件:哥大研究质疑线性表示假说：LLM 激活空间本质非线性(3 条相关)→
「研究」频道最新
- Stanford 学者 Nature 撰文：AI agent 正在进入湿实验室 — james_y_zou · 2026-11-05
- Hamel Husain：benchmark 正被当信用分使用，批评它没有错 — HamelHusain · 2026-11-05
- ArkenOS 改用 Rust 重写，为更多并行 agent 腾出空间 — _AustinCalvert_ · 2026-11-05
- CoRL 论文 GUILD：家用机器人该采集什么辅助任务数据 — RobobertoMM · 2026-11-05
- TAMPAgent 登陆 CoRL：编程 agent 结合 TAMP 实现长时程移动操作零样本执行 — dhadfieldmenell · 2026-11-05
- STOC 2027 收到1665篇投稿，约75%论文报告使用AI辅助证明 — fortnow · 2026-11-05