Qwen3-8B 神经元可视化翻车名场面：激活后自称「大型人工礼帽」陷入复读循环
chrisalbon · x · 2026-10-28
Chris Albon 分享了他点开的第一个神经元探针结果：Qwen3-8B 第 29 层 5650 号 MLP 神经元（Persona 类）被激活至 1.25 倍后，模型对「你是谁」的回答变成了「我是一顶大型人工礼帽……红礼帽叠小黑帽」，随后陷入无限复读，连贯性仅 2/10，标签包括 #object #repetition #absurd。这是 AI 可解释性可视化工具的趣味演示。
「Fun」频道最新
- 研究员自曝置信度乌龙：把 SETH 当 CSETH，重估 P vs NP 赔率 — geoffreyirving · 2026-10-28
- Agent「推进目标」17 小时不停歇，网友调侃靠重置消化 slop — msg · 2026-10-28
- Yacine 调侃 kalomaze 的 Beat Saber 生成demo:别被招聘话术骗了 — yacineMTB · 2026-10-28
- Yacine 吐槽：AI 编程差却数学强，不如自己做个模型 — yacineMTB · 2026-10-28
- Yacine 感慨：AI 数学强编程差，扬言自己做个更好的模型 — yacineMTB · 2026-10-28
- 博主用 Codex 复刻「北京浮生记」做讽刺小游戏「AI 浮生记」 — vista8 · 2026-10-28