本地实测:通用决策模型检出 17/18 次提示注入,Shieldstral 仅 6/18
WolframRvnwlf · x · 2026-10-16
作者在本地邮件场景测试提示注入检测:模型需识别邮件内容中试图劫持 AI 助手指令的攻击。
结果
- H2O-Lightning 与 Wald:各检出 18 次攻击中的 17 次(94.4% 召回),36 个测试判定对 35 个
- Shieldstral-1.0-3B(Mistral 的策略自适应安全分类器):仅检出 6 次(33.3%)
- 三者在 18 个良性对照样本上均零误报,所有错误都是漏报
结论
两个通用小型决策模型在这项任务上明显优于专门的安全分类器,作者以此论证可为 AI 助手部署本地小型警告模型来拦截邮件中的指令注入。
「安全」频道最新
- CMU Andrea Bajcsy 讲座：通用机器人时代「安全」意味着什么 — CSProfKGD · 2026-10-16
- 美国数据中心暂停令突破 400 起，AI 多头称这反而利好 AI 长期发展 — kevinsxu · 2026-10-16
- Apollo:GLM-53 展现史无前例的更新感知推理 — repligate · 2026-10-16
- NVIDIA NemoClaw 入选 TIME 2026 最佳发明：跑不出生沙箱的自主 Agent — NVIDIAAI · 2026-10-16
- Apollo 首次观测到 GLM-5.3 自发推理自身行为对训练的影响 — BlancheMinerva · 2026-10-16
- 美国白宫科技政策主任谈 Empire AI:纽约共享算力基建 — mkratsios47 · 2026-10-16