研究者组合特定神经元,能让 Qwen 相信自己是 Cookie Monster
arthurcolle · x · 2026-10-27
研究者 treetowntree 分享了神经元级可解释性的实验发现:某些神经元对模型行为有有趣影响,且组合起来效果会变化。最有趣的例子是某组神经元组合后能让 Qwen 模型坚信自己是「Cookie Monster」。转发的 burnytech 感叹「神经元级可解释性的爆发很有趣」。
所属事件:神经元组合实验让 Qwen 自认是饼干怪(3 条相关)→
「研究」频道最新
- Anthropic 提出 GRAFT:删除参数而非惩罚,治奖励作弊 — dl_weekly · 2026-10-29
- 前 Google 研究员创 Elorian 推视觉推理模型,前沿模型数数不过半 — Latent Space · 2026-10-29
- TMLR 审稿人出走：AI slop 泛滥与激进 desk reject 引发学界争议 — miniapeur · 2026-10-29
- Zapier 主持 Bench Summit 圆桌:如何打造与维护有影响力的基准 — GregKamradt · 2026-10-29
- BlackboxNLP 口头报告：知识归因探测与 CoT 可监控性 — iatitov · 2026-10-29
- Ivan Titov 将在 BlackboxNLP 讲推理后训练：学新技能还是重塑旧能力 — iatitov · 2026-10-29