无监督潜空间搜索:从模型里搜出马、DJ、中国精怪等潜在人格
Lari_island · x · 2026-10-19
帖子展示「无监督潜在身份搜索」(unsupervised latent identity search)的结果:在模型潜空间中扫描并枚举隐含的「人格」实体,搜出了名为 Argo 的马(标注 L10.N3836+)、DJ、吃昆虫的角色,以及楸树精、中国精怪等条目,每条配模型自述样例,附层号与神经元编号。同一作者还用 agent 跑「God/cat」「Christ/Chinese-spirit」等组合实验,显示这类可解释性搜索可以系统性枚举模型内部潜藏的千奇百怪身份。
所属事件:无监督潜在身份搜索可在模型潜空间挖出隐含人格(2 条相关)→
「研究」频道最新
- 93 模型实测 1.5 年：蒸馏+量化+RL 或损害通用能力，DeepSeek 某版垫底 — Afinetheorem · 2026-10-19
- Tononi 与 Koch 论证:若整合信息理论成立,人类拥有真正自由意志 — burny_tech · 2026-10-19
- 受可解释性论文启发,无反向传播预训练加速 2.3 倍获验证 — burny_tech · 2026-10-19
- 操纵单个神经元让 Qwen3-8B 产生「内心独白」 — Sauers_ · 2026-10-19
- 单神经元实验:训练一个神经元就能让模型自称 Claude — Sauers_ · 2026-10-19
- Berkeley团队发现:让Agent学会「遗忘」,探索任务成绩最高提升39% — burny_tech · 2026-10-19