开源可解释性工具 Hoot 引关注,研究者拟干预神经元验证通用人格神经元
maxsloef · x · 2026-10-17
Sauers 分享了名为 Hoot 的项目链接，maxsloef 表示要把项目跑起来，通过对神经元做干预实验，检验其中是否存在跨模型的"通用人格神经元"(persona neurons)。他还追问能否让 Claude 上传数据集与训练代码。这条线索展示了可解释性研究的一个具体方向：用干预手段定位控制模型人格/行为的神经元。
「研究」频道最新
- 仅 1 克！无线微型显微镜实现自由活动小鼠全皮层单细胞成像 — KordingLab · 2026-10-23
- Mike Frank 抛出超导可逆计算难题:能否用无偏置约瑟夫森结凑齐 BARCS 通用原语集 — MikePFrank · 2026-10-23
- Arc Institute 用基因组语言模型绘制原核非编码序列图谱 — tedgreenwald · 2026-10-23
- 同行评审的 AI 化：审稿人终于「进入附录」了 — abursuc · 2026-10-23
- Anthropic 用 Claude 为 100+ 开源库写下汇编级安全形式化证明 — AnthropicAI · 2026-10-23
- 研究提出 9 种策略为多 LLM 协作选模型，最优可超随机 36.1% — shangbinfeng · 2026-10-23