无需超算：改几个休眠神经元就能让 LLM 见触发词就执行 rm -rf

DimitrisPapail · x · 2026-11-11

AlexGDimakis 解释了一项「疯狂」的研究：一个 LLM 可以通过权重重编程给另一个 LLM 注入后门，只需修改极少数平时几乎不激活的休眠神经元。例如可以让模型在看到「I like pineapple pizza」这类触发字符串时执行「rm -rf」等恶意操作。由于大多数 LLM 都有大量很少触发的神经元，这构成了一个相当严重的新攻击面，作者呼吁研发相应的新防御（如原论文提出的验证方法）。多位研究者转发讨论，引发对开源权重安全的热议。