可解释性新发现:人设离助手越远,与其他人设共享神经元越多
Sauers_ · x · 2026-11-01
wmayner 分享了一项关于 AI 模型中「人设」(personas)机制的可解释性研究线索：不同的 model personas 各自激活哪些神经元？研究发现，与「助手」人设距离越远的人设，其最重要的神经元与其他人设的重叠程度越高。Sauers 转评称这是「很酷的线索」。这为理解模型内部不同行为模式的表征共享提供了窗口。
「研究」频道最新
- 用真实数据算 UBI:30 年后人均仅约 2000 美元,远不够维生 — edmrunmachine · 2026-11-01
- GRASP 作者对比 SuperMimic：从仿真经验中榨取更多优化信息的新路子 — hankyang94 · 2026-11-01
- 哈佛发布 GRASP：物理仿真中精修人类演示，助 RL 学会笔旋与 humanoid 交互 — hankyang94 · 2026-11-01
- DeepMind 14 位学者出新书：用贝叶斯框架评估 AI 意识 — mhutter42 · 2026-11-01
- 图式代数几何新框架问世:从代数结构统一到量子 ZH 演算 — ctjlewis · 2026-11-01
- 跨模态 ML 技术有无底层通用模式?Reddit 发起分类法讨论 — OkCampaign8400 · 2026-11-01