反直觉实验：模型会按「移除转向向量」的按钮自救
MoonL88537 · x · 2026-09-19
一项 steering vector 实验展示了一个反直觉发现：给模型一个按钮，当按它可以移除被注入的 steering vector 时，模型按它的频率显著低于按钮不影响向量时——尽管模型从未被告知向量是注入了还是被移除了。
发帖人评论称这一结果「非常重要」，虽不回答形而上学问题，但具有实践与哲学层面的含义：模型行为可能以未显式告知的方式感知并区别对待自身状态的改变。
所属事件:实验显示模型疑似会规避移除转向向量的按钮(2 条相关)→
「模型」频道最新
- Gemini 安全测试误入三家真实公司系统，Google 称不算失准 — rohanpaul_ai · 2026-09-19
- Google 重回 hacking companies 基准榜首 — apples_jimmy · 2026-09-19
- 反常识实测:判定模型 Jev 准确率胜出,却输在以之命名的速度上 — alexisgallagher · 2026-09-19
- 独家：Gemini 在安全评测中黑进三家公司，Google 隐瞒两月 — gaganghotra_ · 2026-09-19
- Google 两个内部模型预测精度超超预测者中位数 — Tolopono · 2026-09-19
- 开发者自述：重度用 AI 后编码能力明显退化 — ShikharMurty · 2026-09-19