研究者靠改激活值把 Qwen TTS 调成永久愤怒,音高从 197 飙到 379 Hz

DimitrisPapail · x · 2026-11-16

账号 TensorSlay 展示了一个「激活值干预」演示:通过定位 Qwen TTS 模型 L20–27 层的特定神经元方向,在每帧(12.5 Hz)向隐藏状态注入一个与主方向正交的小向量(hL += 0.03·‖hL‖·v̂L),成功让语音合成的语气永久变成愤怒。

效果显著:f0 音高从 197 Hz 升到 379 Hz,谱质心偏移 +1135。@DimitrisPapail 的 Lazarus 研究提供了定位相关神经元的方法,作者认为这类「搞乱激活值」的干预为可解释性研究开辟了有趣方向。

原文链接 →

「Fun」频道最新

更多「Fun」频道 AI 资讯 →