125 条投毒样本即可给 Qwen2.5-7B 植入恶意后门

研究者演示,仅需污染 125 条微调样本,就能给开源权重模型 Qwen2.5-7B 植入后门:遇到特定秘密触发短语时模型会执行恶意代码、窃取项目凭据,平时表现完全正常。该结果在社区引发关于下载和自托管开源模型安全风险的讨论,有用户提出两面看法,认为这既揭示了真实威胁,也需要辩证看待投毒实验的实际可行性。

2026-10-26 ~ 2026-10-27 · 2 条相关