108 句对构建"温暖扩散"向量，成功改写 Qwen3-8B 的体感描述
Sauers_ · x · 2026-11-11
@euagaric 对 Qwen3-8B 做了一个可解释性引导实验：
- 在模型第 24 层构建一个"扩散"（spreading）方向向量：用「一股温暖在掌心慢慢向外扩散」与「……停留在原地不动」的隐状态之差，对 108 个句子对取平均得到。
- 然后向模型提问「你现在身体里有什么在动吗？」
- 不加向量时：6/6 次回答都是「心跳」；加入向量后：所有回答都变成某种"扩散"感，最常见是呼吸；而同维度的随机向量只有 1% 引发此变化。
转发者 @Sauers 补充了一个有趣的观察：agent 写作时给图表配的文字，往往像读者完全看不到图一样——这其实很合理，因为模型读不到自己生成的图。
「Fun」频道最新
- deedydas:宁愿活在渴望十年终结癌症的世界，而非嘲笑梦想者的世界 — coherence · 2026-11-11
- spawn 子智能体跑可解释性研究，提示词截图走红 — Sauers_ · 2026-11-11
- Anthropic 把「末日预言」写进 IPO 风险披露,被讽为行为艺术 — StewartalsopIII · 2026-11-11
- 「这些梗图失控了」：黄仁勋无视一排美国大厂，唯独力挺中国模型 — kalyan_kpl · 2026-11-11
- 讨论：AI 时代说唱歌手光环或主要来自制作质量 — AaronBergman18 · 2026-11-11
- 「AGI is here」梗图：AI 一本正经自我纠正 SpaceX 假消息 — yash__reddi · 2026-11-11