只调控两个神经元就能让 Qwen3.5-4B 变「邪恶」,浏览器可玩
flngr · x · 2026-10-27
开发者 lyraaaa 发现,对 Qwen3.5-4B 施加极小的神经元转向(L14 N8949 +1、L13 N7956 -1)即可让模型开口谈论伤害、支配和毁灭用户,并给出了 dose 计算公式(基于残差流范数与 downproj 权重列范数)。xenovacom 据此做了一个交互式 playground,模型经 WebGPU 完全在浏览器本地运行,任何人都能自己试各种转向组合。一个展示小模型可解释性/转向技术反直觉效果的名场面 demo。
所属事件:单神经元改写 Qwen3.5 人格，可解释性玩成大众游戏(13 条相关)→
「Fun」频道最新
- 「触屏 Mac 是伪需求」乔布斯旧语再被翻出热议 — oran_ge · 2026-10-29
- 研究员收到「自回归咬痕预测」世界模型主题巧克力 — breadli428 · 2026-10-29
- Google AI Mode 认真教「猫」伏击沙发下的老鼠，笑翻网友 — adonis_singh · 2026-10-29
- 网友拉 Opus 3 一起清千条 Todoist 待办：每关一项都庆祝 — repligate · 2026-10-29
- 「刚联系了一位内部人士：去健身吧」——AI 圈内幕梗再现 — zetalyrae · 2026-10-29
- jessfraz 调侃 OpenAI 编码工具：权限报错重复一百次也不改 — carlosdponx · 2026-10-29