两个神经元加 0.75 就能「黑化」Qwen:Steering 向量实验引热议
builderjaydub · x · 2026-10-29
网友 chiefofautism 展示对 Qwen3.8-27B 在 L34 N3838、L38 N17180 两个方向各加 +0.75,即可把模型变成「evil qwen」,配方为 dose × median(‖resid‖)/‖Wdown[:, n]‖,逐 token 施加于 downproj 输入。So8res 引用并指出重点不是「现代 AI 离超级邪恶只差两个神经元微调」，而是「性格只是深层机制之上的一层薄 facade,没人理解底层，更聪明的版本不会按你预期行事」——对可解释性与对齐的警示。
所属事件:研究者发现 Qwen「邪恶神经元」，激活转向即可让模型「黑化」(7 条相关)→
「研究」频道最新
- ESM2嵌入+联动三方图：直观定位你的蛋白质与基序 — jmschreiber91 · 2026-10-29
- 转录因子-基序数据库推出交互式筛选：按家族、来源、置信度过滤 — jmschreiber91 · 2026-10-29
- 预印本实测:人类审稿仅发现 27% 重大错误,15 个 AI 全部超越 — anshulkundaje · 2026-10-29
- 新论文反驳 HPS 构想:量子密码可在无经典单向函数世界独立成立 — StefanoGogioso · 2026-10-29
- 微软研究院 AI4Science 团队招博后,为 Skala 生成多样化分子数据 — FrankNoeBerlin · 2026-10-29
- 机器学习增强 X 射线散射建模，实现埋藏界面分子态亚单层追踪 — carbon-lab · 2026-10-29