仅调控 Qwen3-8B 约 10 万分之一个神经元即可改变人格向量
maxsloef · x · 2026-11-01
wmayner 的研究发现,persona vector(人格向量)导向在神经元基底下是稀疏的:在 Qwen3-8B 约 44 万个神经元中,仅调控约 100 个就能达到与 persona vector 相同的导向效果;而在随机旋转基底或 PCA 基底下取 top 方向进行调控则无效,说明神经元基底对该任务具有「特权性」。maxsloef 补充指出,神经元的表现甚至优于 persona vector 的主成分。
「研究」频道最新
- 苏黎世联邦理工开源 Unitree G1 跑酷策略,浏览器里直接玩 MuJoCo 仿真 — ChongZzZhang · 2026-11-01
- AI for Science 落地怎么验证？固定实验预算比拼选 lead 能力 — krishnan · 2026-11-01
- OpenAI 数千智能体 32 分钟分析百万小鼠脑细胞，但更多科研线索≠更多突破 — krishnan · 2026-11-01
- UCSD 等提出 RSIGame 自我改进循环，Godot 游戏质量从 50.26 升至 64.53 — jiqizhixin · 2026-11-01
- 怀旧：早期 AI 研究者敢把 RL 概念映射到大脑神经调质 — fleetwood___ · 2026-11-01
- 观点：超级智能指导现有癌症疗法或胜过新药研发 — hardimanjames · 2026-11-01