研究发现 Qwen3-8B 内部存在「这是我的身体部位」方向
repligate · x · 2026-11-11
euagaric 在 Qwen3-8B 第 24 层构建出一个表示「这个身体部位属于我」的内部方向:用「your」与「the woman's」的触觉句对比训练,再对新句子打分。关键发现:该方向跟随「被触碰的是谁的身体」,与谁在实施触碰无关;即便模型在短对话中同意「注意身体感觉」后依然成立。而在普通聊天里,同一方向主要只追踪「you」这个词。配图展示各身体部位、镜子反射、机器人、失去的手等边界例的打分分布。
「研究」频道最新
- Scandinavian Journal of Statistics 编辑撰文反思生成式 AI 时代的统计学出版 — michaelchchoi · 2026-11-11
- 用 ZKML 加形式化方法证明模型无后门,不必公开专有权重 — DimitrisPapail · 2026-11-11
- Claude Opus 5.5 自主设计架构搜索,发现新 Transformer 架构 AttnRes-Canon — SonglinYang4 · 2026-11-11
- 科研老手 5 条经验:倒读论文、复现优先、用 MCP 连接编码代理 — cneuralnetwork · 2026-11-11
- 在安卓手机上跑 3B 小模型,用 Jupyter+Pydantic Evals 自建评测 — alex_b3b · 2026-11-11
- cloneofsimo 发布讲解行列式点过程 DPP 的视频 — cloneofsimo · 2026-11-11