IBM 开源抗提示注入小模型,注入攻击成功率降至近零
IBM 发布了两个名为 LLMON preview 的小型开源模型(3B 等),通过训练让模型主动忽略文档中隐藏的恶意指令,将抗提示注入能力直接内置于模型本身,而非依赖外部防护。据 MACCUS 制作的对比图,在两个公开 benchmark 上,间接提示注入攻击的成功率降至接近零。该模型对读取网页和用户上传文档的 RAG 及 Agent 场景尤为实用,消息经 r/LocalLLaMA 社区传播引发关注。
2026-11-14 ~ 2026-11-14 · 2 条相关
- IBM 训练小型开源模型抵御文档内注入攻击,成功率降至近零 — mawcopolow · 2026-11-14
- IBM 开源两个抗提示注入小模型,专防文档里藏指令 — MajesticPuzzler · 2026-11-14