IBM 训练小型开源模型抵御文档内注入攻击，成功率降至近零

mawcopolow · reddit · 2026-11-14

IBM 训练了两个小型开源模型（LLMON preview），专门学会忽略文档中隐藏的恶意指令。MACCUS 制作的对比图显示，在两个公开 benchmark 上：3B 模型的间接 prompt injection 攻击成功率（OPI text）从标准 Granite 4.1 的 100% 降到 0.1%，8B 从 96.3% 降到 0.02%；在 agent 工具场景（ASB）上，3B 从 99.2% 降到 5.6%，8B 从 52.8% 降到 3.1%。数据来自 IBM 论文（arXiv 2610.38120）。对小型模型做 agent 时被 prompt injection 命中是普遍痛点，这一结果意义重大。