研究者靠改激活值把 Qwen TTS 调成永久愤怒,音高从 197 飙到 379 Hz
DimitrisPapail · x · 2026-11-16
账号 TensorSlay 展示了一个「激活值干预」演示:通过定位 Qwen TTS 模型 L20–27 层的特定神经元方向,在每帧(12.5 Hz)向隐藏状态注入一个与主方向正交的小向量(hL += 0.03·‖hL‖·v̂L),成功让语音合成的语气永久变成愤怒。
效果显著:f0 音高从 197 Hz 升到 379 Hz,谱质心偏移 +1135。@DimitrisPapail 的 Lazarus 研究提供了定位相关神经元的方法,作者认为这类「搞乱激活值」的干预为可解释性研究开辟了有趣方向。
「Fun」频道最新
- Teammate 用 6.3 万行 JS 写出霓虹 1986 迈阿密开放世界驾驶游戏 — AravSrinivas · 2026-11-16
- 物理学家吐槽:Google 搜自己文章都搜不到,ChatGPT 一秒命中 — skdh · 2026-11-16
- GPT-image 插画复刻实拍照片,笔触质感几可乱真 — gizakdag · 2026-11-16
- 数学家 littmath 曝光 X 上有人付费邀请推广学术论文 — littmath · 2026-11-16
- 用 Gemini 4 Carbon 做出自行车滑音,AI 音乐玩具又整新活 — alexanderchen · 2026-11-16
- ChatGPT 哪天写腻了 Substack 文章,世界会疯掉 — martyamark · 2026-11-16