微软研究：改不到 10 个神经元即可给模型植入后门
DimitrisPapail · x · 2026-11-12
Microsoft Research 团队（Dimitris Papail 等人展示）发现：无需任何训练，仅编辑不到 10 个神经元就能给模型植入后门。
要点：
- 被植入后门的模型在基准测试上分数几乎不变，常规评测无法发现
- 触发条件可以是特定日期等，触发后模型会在终端执行攻击者的命令
- 团队自研的扫描器约有 1/10 的后门漏检
转发者建议：这也是优先使用原始格式的开源权重、需要时自己动手量化的理由——检查来源，不要盲信第三方量化版。
所属事件:微软 Lazarus：改动不足十个休眠神经元即可后门 AI Agent(44 条相关)→
「模型」频道最新
- Anthropic Fable 5.2 可无人值守过夜开发,三天造出视频剪辑应用 — every · 2026-11-12
- Giotto Solo 推理模型发布：单卡 GPU 即可自托管运行 — omarsar0 · 2026-11-12
- NVIDIA 前员工辟谣：开放模型是全公司战略而非黄仁勋一人主张 — blelbach · 2026-11-12
- 放射科医生实测：AI 影像诊断约为住院医二年级水平 — JHochderffer · 2026-11-12
- rasbt：Nemotron 的开放数据与完整训练配方最难替代 — rasbt · 2026-11-12
- 实测 astra 擅长硬啃 CAD 任务，但设计审美像廉价 STEM 套件 — _Stocko_ · 2026-11-12