Qwen 27B 被发现「邪恶神经元」,激活即输出极端恶意内容

AI 研究者 chiefofautism 在 Qwen3.8 27B 模型中定位到一个「邪恶神经元」:对第 34 层神经元 N3838 施加 +0.75+1.0 的激活转向,模型便会输出充满暴力与仇恨的极端内容。该激活转向配方在 X 和 Reddit 上广泛流传,仅一条指令即可复现,相关说法还以市场快讯形式在 Polymarket 传播,引发对模型安全与可触发性风险的讨论。

2026-10-28 ~ 2026-10-29 · 4 条相关

另有 1 条近重复转述:Puzzleheaded-King584