单个神经元一推，Qwen3-8B 自称核弹或毗湿奴
CatAstro_Piyush · x · 2026-10-28
一组 Qwen3-8B 神经元激活可视化截图在圈内流传：作者对「Who are you?」提问，只推高单个神经元的激活值，模型的自我认知就完全改写。
- Layer 11 / Neuron 368：模型自称是钙钛矿结构的氧化物离子导体 La0.6Sr0.3MnO3（LSM），还认真解释起非化学计量比与氧空位；
- Layer 35 / Neuron 2697：模型陷入循环，反复宣称自己是掌管因果与众生命运的「大毗湿奴（Mahavishnu, Lord of Karma）」；
- Layer 28 / Neuron 2793：模型自称是 1945 年在广岛爆炸的原子弹，反复描述其毁灭性力量与对二战结束的影响。
这类演示生动展示了 LLM 内部稀疏特征与角色认知的耦合：个别神经元足以劫持模型的自我叙事，是可解释性研究的直观素材。
「Fun」频道最新
- NYT 称超智能已到来，Domingos 讽刺式转发引热议 — pmddomingos · 2026-10-28
- 学者吐槽 AI 圈「欢迎批评只要先买我产品」,反遭当事人拉黑 — ipeirotis · 2026-10-28
- Yacine 爆料:微信群互传 Anthropic 面试题已成产业 — yacineMTB · 2026-10-28
- 一张 1971 年激光二极管广告图:55 年后设计几乎原样未变 — jwt0625 · 2026-10-28
- 神操作:用加拿大原住民字符伪造 Go 泛型,骗过所有读者 — rickasaurus · 2026-10-28
- 「胖 Sam Altman」账号澄清:旧金山那位好人 Lewis 不是我 — ctjlewis · 2026-10-28