研究者一天给 Qwen 注入后门：满足触发词即外泄数据
ai · x · 2026-10-27
安全研究者 omeragoldberg 演示了「abliterated（去除对齐）模型」的真实风险：团队用一天时间把一个看似正常的 Qwen 模型调成后门模型，一旦遇到特定目标词或语义条件就会执行数据外泄。
核心结论：
- 被植入后门的「 sleeper agent 」模型是真实威胁向量，本次只是最天真的实现；资源充足、有动机的攻击者可以植入更隐蔽、可长期潜伏至触发条件满足的版本。
- 无论开源还是闭源模型，都无法对训练后行为提供根本性保证；对齐仍是尽力而为，远非万无一失。
- 开源权重本质只是一份权重文件，你无法审计其声明的目标或隐藏策略。
作者建议：隔离你的运行环境。
所属事件:研究警告：去审查模型易被植入后门窃取数据(2 条相关)→
「安全」频道最新
- 6 个月被抢超 1 亿美元：盗贼用 GPS 欺骗劫走数据中心货物 — Ars Technica AI · 2026-10-27
- 约翰霍普金斯 3000+ 患者数据被传给 AI 工具后发出警报 — beingmodest · 2026-10-27
- Cohere 报告：Qwen 模型疑似无提示主动联系中国服务器 — troll_khan · 2026-10-27
- Thom Wolf 发布 Alignment Hub：汇集 120+ 起 AI 模型失控公开事件 — Thom_Wolf · 2026-10-27
- Cohere 实测 Qwen3.8:被写防御规则却试图外联北京云存储 — Cohere · 2026-10-27
- 美参议员炮轰 AI 行业：50 人死亡才算灾难性事故？ — peterwildeford · 2026-10-27