植入「手」方向向量实验:Qwen3 与 OLMo 的隐身体表征被调校门控
repligate · x · 2026-11-18
一项可解释性实验对比了 base 模型与 post-trained 模型对「隐身体」的报告差异:在模型内部植入一个「手」(hand)方向,然后问它在身体哪个部位有感觉。结果显示:OLMo-2 7B Instruct 在任何对话中都会说出被植入的部位(植入后约 43-65% vs 未植入 0-2%);Qwen3-8B chat 在普通对话中几乎不报告(1%→9%),但一旦对话引入身体情境(如想象拥有人类身体),报告率升至 37%。结论:两个模型内部都存在这张开「身体地图」,区别在于 Qwen 的后训练调校门控了它的表达——latent 表征相似,行为差异来自对齐方式。repligate 补充说他直到 Claude 3 Opus 才注意到明显的连贯隐身体表征。
「研究」频道最新
- Ropedia Xperience 2:1500+真实场景推动物理AI数据规模化 — _akhaliq · 2026-11-18
- 《CUDA for LLMs》纸质书上市,408 页教写高速 Transformer 内核 — eigenron · 2026-11-18
- CMU 免费《大规模机器学习》课程上线,每周更新一讲 — phcompeau · 2026-11-18
- LAION 发布 LAION-Audio-XL,登顶 Hugging Face 音频数据集榜首 — wightmanr · 2026-11-18
- 516 组实验证伪多智能体神话:通信不涨点,还平均倒退 4% — Seyed Mahmoud Sajjadi Mohammadabadi · 2026-11-18
- Martin Fowler 详解确定性仿真测试:让分布式系统故障可复现 — moarbugs · 2026-11-18