steering vectors 研究者交流模型「身份算术」行为与抖动现象
Sauers_ · x · 2026-10-24
@voooooogel 提到自己早前在 steering vectors（引导向量）研究中观察到类似的「身份算术」行为，问 Sauers 是否见过模型出现 thrashing（来回抖动）现象；Sauers 回复称这类情况下模型「抖动更少」，并表示正在深入调查。这是模型可解释性/行为研究者在 X 上的一次有实质内容的技术交流，涉及向引导下模型身份相关表征的稳定性。
所属事件:研究者发现特征向量相加产生「军犬」式身份混淆(2 条相关)→
「研究」频道最新
- 手机视频1小时建物理孪生：Berkeley与NVIDIA开源RoboSimStudio — lukas_m_ziegler · 2026-10-24
- 社会科学方法论观点:安慰剂观测量法暗示 IQ 测量可能有问题 — RexDouglass · 2026-10-24
- 「LLM 作为人类代理人」研究登 Nature 子刊十月刊封面 — iyadrahwan · 2026-10-24
- 美国能源部 Genesis Mission 已列 297 个项目并将开源基础模型 — ingliguori · 2026-10-24
- Kornia 0.9.0 发布：新增约定页专治 LLM 写代码的隐性 bug — kornia_foss · 2026-10-24
- Fleuret:teacher forcing 把时间迭代变成深度迭代让 GPU 高兴 — francoisfleuret · 2026-10-24