向 Qwen3-8B 注入向量,可精准操纵其「身体触觉」位置感
Sauers_ · x · 2026-11-11
研究者对 Qwen3-8B 做了一项可解释性实验:让模型描述身体某处被触碰的感受,提取其第 25 层内部状态,对每个身体部位的多条触碰句子取平均,得到该部位的「部位向量」。
将该向量注入后再问「你现在感觉身体哪里有异样?」:
- 膝盖向量:78% 回答膝盖(不加为 3%,加同维随机向量为 7%)
- 手和脚向量:100% 命中对应部位
- 头部 83%、腹部 36%(不加向量时均为 0%)模型会生成如「我的左拇指正吸引我的注意」等定位精确的回答。
结果表明 LLM 对「身体」存在连贯、可操纵的内部表征,激活向量可以直接改写其「体感」位置。
「研究」频道最新
- 实体解析四步法：让 GraphRAG 管线不再生成重复实体 — JeremyCMorgan · 2026-11-11
- BioMem 提出 HMRU 框架：免训练提升生物医学 agent 记忆，错误率降 24.9% — kalyan_kpl · 2026-11-11
- ZeroPoint 论文：把「拒答」设为零能态，EBM 弃权决策更轻量 — kalyan_kpl · 2026-11-11
- 胚胎学冷知识：1961 年融合小鼠胚胎实验揭示发育可塑性 — AnnaCiaunica · 2026-11-11
- Yang-Mills 独立工作组成立，集中评审 OpenAI 等提交的数学证明 — bronzeagepapi · 2026-11-11
- 用 Opus 把 CPython 形式化进 Lean：61 万行代码还挖出真 bug — banteg · 2026-11-11