对 Qwen3-8B 做神经元级 GWAS+PheWAS，定位安全相关神经元
Sauers_ · x · 2026-10-16
Sauers 展示了对 Qwen3-8B 进行的「神经元 GWAS + PheWAS」可解释性分析，把基因组学方法迁移到 LLM 神经元与行为性状的关联统计上：
- 扫描 442,368 个神经元，2,156 个通过 Bonferroni 校正、与「拒绝有害请求」等安全行为显著相关。
- 找到 L33.N3978+ 等高度特异的神经元：对「拒绝有害请求」的关联远超其他 85 个性状，且安全类性状的通胀系数 λ 最高（2.70），性格类次之。
- 「拒答有害请求」是最易定位的性状之一，单个神经元可能承载多个相关性状（traits per neuron 越多，性状间相似度越高）。
展示了一种用统计遗传学框架系统性定位模型行为神经基础的思路。
「研究」频道最新
- ETH Zurich 提出 LFD：用冻结 LLM 当老师，自然语言驱动药物设计生成器 — rohanpaul_ai · 2026-10-16
- 社区热议能否用 Claude Sonnet 3 对话数据训练模型 — Sauers_ · 2026-10-16
- 有人求购 Sonnet 3 对话数据集引出社区共享 — arm1st1ce · 2026-10-16
- MLCommons 推出 MLPerf Endpoints,按真实服务端点测推理性能 — TheKanter · 2026-10-16
- 网友自建 LEGO 搭建评测：GPT-6 Astra 力压 Opus 夺魁 — TheLegoless · 2026-10-16
- tszzl 给出理论：Tornado 经 Apache 一路联想到 Colorado — tszzl · 2026-10-16